Si RAG funciona mal, la causa no suele ser el modelo sino cómo se dividieron los documentos. Este paso es la parte más determinante de la calidad.
01. Tamaño del fragmento
El rango habitual es de 256 a 1024 tokens con algo de solapamiento. Demasiado pequeño pierde contexto; demasiado grande arrastra texto irrelevante a la respuesta.
02. El enfoque padre-hijo
Buena práctica actual: buscar con fragmentos pequeños pero enviar al modelo la sección mayor en la que está el fragmento. Se obtiene recuperación precisa y contexto suficiente.
03. Respetar la estructura
En lugar de cortar a ciegas por número de caracteres, divida en límites de encabezado, cláusula y tabla. En contratos y procedimientos ese solo cambio eleva la precisión de forma notable.
04. Tablas y anexos
Las tablas pierden sentido al aplanarse en texto. Hay que interpretarlas fila a fila y volcarlas a texto, o tratarlas aparte. Si no, el sistema falla continuamente en preguntas numéricas.
05. El modelo de embeddings
En contenido en turco la elección importa. Los modelos multilingües suelen rendir bien, pero no decida sin probar con sus documentos. Si cambia el modelo, hay que reprocesar todo el archivo.
06. Metadatos
Añada a cada fragmento documento de origen, sección, fecha y etiqueta de acceso. El filtrado, la cita y la autorización funcionan sobre estos campos.