not · büyüyor
Chunking: sınır > boyut
Başlıklara göre böl, %10–15 overlap tut, her chunk’ın önüne bir context satırı ekle.
Chunk boyutunu ayarlamak ölçülebilir en ucuz kazanım — ama asıl önemli olan boyut değil, sınır. Bir fikrin tam ortasından kesilmiş 512 token’lık bir chunk, temiz bir 1024’ten daha kötüdür.
| Chunk | Kazanç | Kayıp |
|---|---|---|
| Küçük (128–256) | yüksek precision | context kopuyor |
| Orta (512–1024) | çoğu corpus için denge noktası | — |
| Büyük (2000+) | context bütün | bulanık embedding, gürültü |
Bu sırayla dene
- Sabit token sayısına göre değil, başlıklara göre böl. Başlık zincirini her chunk’a taşı.
- %10–15 overlap. Sınıra denk gelen cümleyi iki tarafta da tut.
- Contextual retrieval. Her parçanın önüne — ucuz bir modele ürettirdiğin — hangi dokümanın neresinde durduğunu söyleyen 50–100 token’lık bir satır ekle, sonra onu embed et.
Tek bir global chunking stratejisi yok. Bir sözleşme, bir tablo ve bir sohbet kaydı aynı splitter’dan sağ çıkmaz — asıl iş, ingest sırasında doküman tipini sınıflandırmak.