RAG kötü çalışıyorsa sebep genelde model değil, belgelerin nasıl bölündüğü. Bu adım kalitenin en belirleyici parçası.
01. Parça Boyutu
Yaygın aralık 256 ile 1024 jeton arası, parçalar arasında bir miktar örtüşme ile. Çok küçük parça bağlamı kaybediyor, çok büyük parça alakasız metni cevaba taşıyor.
02. Ebeveyn-Çocuk Yaklaşımı
Bugünkü yaygın iyi pratik: aramayı küçük parçalarla yapmak, modele ise o parçanın içinde bulunduğu daha büyük bölümü göndermek. Hem isabetli buluyor hem yeterli bağlam veriyor.
03. Yapıya Saygı
Belgeyi karakter sayısına göre kör kesmek yerine başlık, madde ve tablo sınırlarına göre bölün. Sözleşme ve prosedür belgelerinde bu tek değişiklik isabeti belirgin artırıyor.
04. Tablolar ve Ekler
Tablolar düz metne çevrildiğinde anlamını kaybediyor. Tabloyu satır bazında anlamlandırıp metne dökmek ya da ayrı işlemek gerekiyor. Aksi halde sayısal sorularda sistem sürekli yanılıyor.
05. Gömme Modeli
Türkçe içerikte model seçimi önemli. Çok dilli modeller genelde iyi sonuç veriyor ama kendi belgelerinizle test etmeden karar vermeyin. Model değişirse tüm arşivin yeniden işlenmesi gerekiyor.
06. Üstveri
Her parçaya kaynak belge, bölüm, tarih ve erişim etiketi ekleyin. Filtreleme, kaynak gösterme ve yetkilendirme bu alanlar üzerinden yürüyor.