Si le RAG fonctionne mal, la cause n'est en général pas le modèle mais la façon dont les documents ont été découpés. Cette étape est la plus déterminante pour la qualité.
01. Taille des passages
La plage usuelle va de 256 à 1024 jetons avec un peu de chevauchement. Trop petit perd le contexte ; trop grand entraîne du texte hors sujet dans la réponse.
02. L'approche parent-enfant
La bonne pratique actuelle : chercher avec de petits passages mais envoyer au modèle la section plus large qui les contient. On obtient à la fois une recherche précise et un contexte suffisant.
03. Respecter la structure
Plutôt que de couper aveuglément au nombre de caractères, découpez aux frontières de titres, de clauses et de tableaux. Dans les contrats et les procédures, ce seul changement élève nettement la précision.
04. Tableaux et annexes
Les tableaux perdent leur sens une fois aplatis en texte. Il faut les interpréter ligne à ligne et les rendre en texte, ou les traiter à part. Sinon le système se trompe continuellement sur les questions chiffrées.
05. Le modèle d'embedding
Pour du contenu turc, le choix compte. Les modèles multilingues donnent en général de bons résultats, mais ne décidez pas sans tester sur vos documents. Si le modèle change, tout l'archivage doit être retraité.
06. Métadonnées
Attachez à chaque passage le document source, la section, la date et une étiquette d'accès. Filtrage, citation et habilitation passent par ces champs.