"IA corporativa: hacer que ChatGPT hable con los datos de su empresa (RAG)"

«ChatGPT no conoce nuestra empresa, queremos enseñárselo.» La respuesta correcta a esa frase casi nunca es «entrenar el modelo», sino «darle documentos que leer». Ese enfoque se llama RAG: Retrieval-Augmented Generation. En este artículo explicamos la arquitectura RAG de forma práctica.

01. ¿Qué es RAG y en qué se diferencia de entrenar el modelo?

Entrenar un modelo (fine-tuning) es caro, lento y hay que repetirlo cada vez que se actualiza un documento. RAG, en cambio, funciona así:

1. El usuario formula la pregunta
2. El sistema busca los documentos relevantes de la empresa
3. Los documentos encontrados se pasan al modelo como contexto
4. El modelo redacta la respuesta basándose solo en ese contexto

El modelo no se entrena: simplemente lee el documento correcto en el momento correcto.

02. La base de datos vectorial: aquí está el corazón

En el centro de RAG hay una base de datos vectorial. Los documentos de la empresa se dividen en fragmentos, cada fragmento se convierte en un vector matemático y se guarda en la base.

Cuando el usuario pregunta, la propia pregunta se convierte en vector y se recuperan los documentos más cercanos. Para esto se usan herramientas como Pinecone, Weaviate o PostgreSQL con pgvector.

03. Preparar los documentos: la parte difícil

La clave de la calidad de un RAG está en la preparación documental. Los problemas habituales:

• Los PDF contienen tablas e imágenes
• Los contratos tienen una redacción compleja
• La misma información puede contradecirse en dos documentos
• Actualizar documentos exige control de versiones

Un buen proyecto de RAG es un 70% preparación documental y un 30% código.

04. Seguridad y aislamiento de los datos

En un RAG corporativo, ¿se envían sus datos a un modelo externo? La respuesta depende del proveedor elegido:

• OpenAI Enterprise: contrato que garantiza que los datos no se usan para entrenar
• Azure OpenAI: los datos permanecen en su propio tenant de Azure
• API de Anthropic: acuerdo de datos específico en el plan corporativo
• Modelos alojados localmente (Llama, Mistral): los datos no salen nunca

Elegir bien el proveedor es la primera decisión del proyecto.