"IA d'entreprise : faire dialoguer ChatGPT avec vos données (RAG)"

« ChatGPT ne connaît pas notre entreprise, nous voulons le lui apprendre. » La bonne réponse à cette phrase n'est le plus souvent pas « entraîner le modèle » mais « lui faire lire nos documents ». Cette approche s'appelle le RAG, pour génération augmentée par recherche. Cet article en explique l'architecture de façon pratique.

01. Qu'est-ce que le RAG et en quoi diffère-t-il de l'entraînement ?

Entraîner un modèle (fine-tuning) est coûteux, long, et doit être recommencé à chaque mise à jour documentaire. Le RAG fonctionne selon un tout autre principe :

1. L'utilisateur pose une question
2. Le système recherche les documents pertinents de l'entreprise
3. Il fournit ces documents au modèle comme contexte
4. Le modèle rédige sa réponse en s'appuyant uniquement sur ce contexte

Le modèle n'est pas entraîné ; il lit simplement le bon document au bon moment.

02. La base vectorielle : le cœur du dispositif

Au centre du RAG se trouve une base de données vectorielle. Les documents de l'entreprise sont découpés en fragments, chaque fragment est converti en vecteur mathématique et stocké dans la base.

Lorsque l'utilisateur pose une question, celle-ci est elle aussi convertie en vecteur, ce qui permet de retrouver les documents les plus proches. On utilise pour cela des outils comme Pinecone, Weaviate ou PostgreSQL avec pgvector.

03. La préparation documentaire : la partie difficile

La qualité d'un RAG se joue dans la préparation des documents. Les difficultés :

• Les PDF contiennent des tableaux et des images
• Les contrats sont grammaticalement ardus
• Une même information peut se contredire d'un document à l'autre
• La mise à jour documentaire exige une gestion des versions

Un bon projet RAG, c'est 70 % de préparation documentaire et 30 % de code.

04. Sécurité et isolation des données

Dans un RAG d'entreprise, vos données partent-elles vers un modèle externe ? La réponse dépend du fournisseur retenu :

• OpenAI Enterprise : engagement contractuel de non-utilisation pour l'entraînement
• Azure OpenAI : les données restent dans votre environnement Azure
• API Anthropic : contrat de données propre au plan entreprise
• Modèles hébergés sur site (Llama, Mistral) : les données ne sortent jamais

Le choix du bon fournisseur est la toute première décision du projet.