RAG en IA : définition et ce qu’il change pour vos documents

Comment fonctionne le RAG ?

Le RAG ajoute une recherche dans vos documents avant chaque réponse du modèle. Le système suit quatre étapes.

1. Il prépare vos documents. Il les découpe en fragments, souvent de quelques centaines de tokens. Il les range en général dans une base qui permet de chercher par le sens : une base vectorielle.

2. Il cherche. À chaque question, il retrouve les fragments dont le sens se rapproche le plus de la question.

3. Il transmet. Il envoie ces fragments au modèle de langage avec la question.

4. Le modèle rédige. Il formule sa réponse à partir de ces passages. L’outil peut afficher les documents qu’il a utilisés.

Patrick Lewis et ses coauteurs (Facebook AI Research) ont publié cette méthode en 2020. L’ANSSI la décrit dans ses recommandations du 29 avril 2024 : une base vectorielle enrichit les requêtes des utilisateurs avant leur envoi au modèle. Les assistants qui cherchent sur le web appliquent le même principe à des pages publiques : c’est le terrain du GEO.

Le RAG n’est pas toujours nécessaire. Anthropic indiquait en septembre 2024 qu’une base de moins de 200 000 tokens, soit environ 500 pages, peut tenir entière dans la consigne du modèle.

RAG ou fine-tuning : quelle différence ?

Le RAG donne vos documents au modèle au moment de la question ; le fine-tuning modifie le modèle en le réentraînant sur vos exemples. Le RAG apporte des connaissances, le fine-tuning change un comportement, comme un format de réponse ou un ton.

Trois écarts comptent pour la décision.

• Les faits. Des chercheurs de Microsoft ont comparé les deux méthodes sur trois modèles de 7 milliards de paramètres (Ovadia et al., janvier 2024). Le RAG l’emporte sur un fine-tuning non supervisé, pour des faits déjà connus du modèle comme pour des faits nouveaux.

• La mise à jour. Avec le RAG, vous remplacez un document et la réponse suit, dès que la base est mise à jour. Avec le fine-tuning, vous devez réentraîner le modèle.

• Les droits d’accès. L’ANSSI note que, sur les données d’entraînement, « la gestion de droits d’accès pour les utilisateurs n’est pas possible » (recommandation R7). Sur les données qu’un RAG consulte, cette gestion reste possible, selon les outils.

Les deux méthodes se combinent : un modèle ajusté peut aussi interroger vos documents. Le guide RAG ou fine-tuning aide à trancher sur vos cas d’usage.

Le RAG supprime-t-il les hallucinations ?

Non : le RAG réduit les hallucinations, il ne les supprime pas. En 2024, des chercheurs de Stanford et de Yale ont testé trois outils américains de recherche juridique fondés sur le RAG. Leur étude préenregistrée porte sur 202 questions. Lexis+ AI, Westlaw AI-Assisted Research et Ask Practical Law AI produisent une hallucination dans 17 % à 33 % des cas.

Ces outils se trompent moins que GPT-4 seul. L’étude juge pourtant exagérées les promesses de leurs éditeurs, qui affirmaient éviter les hallucinations. L’erreur peut venir de la recherche, qui ramène un mauvais passage, ou du modèle, qui déforme un bon passage. Une réponse qui cite sa source reste donc à vérifier.

GraphRAG, RAG agentique : quelles variantes du RAG ?

GraphRAG et le RAG agentique visent des questions que le RAG classique traite mal, pour un coût supérieur.

• GraphRAG relie des faits dispersés dans tout un corpus. Un modèle tire de vos documents un graphe de connaissances ; l’indexation et les questions globales coûtent plus cher, comme le détaille la fiche GraphRAG.

• Le RAG agentique (agentic RAG) confie la recherche à un agent IA. L’agent décide quand chercher, reformule la question et s’arrête quand il juge les éléments suffisants. Selon la synthèse de Singh et al. (prépublication, version d’avril 2026), ces recherches répétées allongent le délai de réponse et augmentent le calcul.

Commencez par un RAG classique et relevez les questions où il échoue. GraphRAG se justifie si vos équipes interrogent souvent l’ensemble d’un même corpus. Le RAG agentique se justifie quand une réponse exige plusieurs recherches enchaînées. Pour une question factuelle simple, cette synthèse juge suffisant un RAG sans agent.

Que change le RAG pour votre décision ?

• La qualité de vos documents limite la qualité des réponses. En 2020, Lewis et al. ont interrogé leur modèle sur 82 postes de dirigeant dont le titulaire a changé entre 2016 et 2018. Avec un index Wikipédia de 2018, il trouve le bon titulaire dans 68 % des cas. Avec l’index de 2016, il le trouve dans 4 % des cas. Nommez un responsable et une date de révision pour chaque corpus (voir qualité et gouvernance des données).

• Les droits d’accès décident de ce que l’outil peut révéler. Microsoft indique que Copilot, dans Microsoft 365, ne présente que les données qu’un utilisateur a au moins le droit de consulter. Un partage trop large rend donc un dossier lisible par l’assistant de chacun. Revoyez les droits de partage avant d’ouvrir l’outil.

• Chaque document devient une porte d’entrée. L’OWASP décrit un CV qui cache, en texte blanc sur fond blanc, la consigne de recommander le candidat (risque LLM08:2025). Cette injection de prompt impose de contrôler chaque document avant son entrée dans la base.

• Vos extraits partent avec chaque question. Le système envoie au modèle les passages retrouvés. Si le modèle tourne chez un fournisseur, vos extraits passent chez lui : le choix de l’hébergement relève de la souveraineté numérique.

• La vérification reste un coût. Le RAG permet de citer la source, donc de vérifier plus vite. Il ne dispense pas de vérifier : décidez qui contrôle, et sur quelles réponses.