Hallucination IA : définition, causes et coût de la vérification

Pourquoi un modèle d’IA hallucine-t-il ?

Un modèle d’IA hallucine parce qu’il produit le texte le plus plausible, pas une information vérifiée. Le NIST, l’institut américain des normes, rattache ces erreurs à la conception même des modèles génératifs. Ces modèles produisent des contenus qui approchent la distribution statistique de leurs données d’entraînement. Un grand modèle de langage prédit le mot suivant ; par lui-même, il ne consulte aucune base de faits.

Une étude de chercheurs d’OpenAI et de Georgia Tech (Kalai et al., septembre 2025) ajoute une seconde cause. L’entraînement et les évaluations récompensent la réponse au hasard plutôt que l’aveu d’incertitude. Dans un test qui ne compte que les bonnes réponses, « je ne sais pas » rapporte zéro point. Une réponse au hasard, elle, tombe parfois juste. Deux des conclusions d’OpenAI comptent ici. L’exactitude d’un modèle ne sera jamais totale, car certaines questions n’ont pas de réponse. Les hallucinations ne sont pas inévitables pour autant, car un modèle peut s’abstenir quand il doute.

Relier le modèle à vos documents réduit le risque sans le supprimer. En 2024, des chercheurs de Stanford et de Yale ont soumis 202 requêtes à trois outils de recherche en droit américain. Leurs éditeurs mettaient en avant le RAG pour éviter les hallucinations. Dans cette étude, ces outils se trompaient moins que GPT-4, mais chacun hallucinait dans 17 % à 33 % des cas. Les auteurs comptent comme hallucination une réponse fausse, mais aussi une réponse qui cite une source réelle et l’interprète mal. Une variante plus élaborée, comme le GraphRAG, ne supprime pas non plus ce risque.

Hallucination, biais ou erreur de données : quelle différence ?

L’hallucination invente un contenu qu’aucune source ne soutient ; l’erreur de données répète une erreur de vos documents ; le biais fausse les réponses de façon systématique. Les trois faussent les réponses, mais chacun appelle une correction différente.

• L’hallucination : le modèle invente une référence, un chiffre ou une clause. Vous la repérez en remontant à la source.

• L’erreur de données : le document source contient l’erreur, et le modèle la répète fidèlement. Vous la corrigez dans vos données, pas dans le modèle : c’est l’objet de la qualité et de la gouvernance des données.

• Le biais : le système traite de façon inégale des personnes ou des situations comparables. Vous le détectez en comparant des groupes de réponses, pas en vérifiant une réponse isolée.

Que change l’hallucination pour votre décision ?

L’hallucination fait de chaque réponse une hypothèse à vérifier, et cette vérification consomme du temps qualifié.

• Le coût de vérification entre dans le coût du projet. Nous appelons « coût de vérification » le temps qu’une personne compétente passe à contrôler, corriger ou refaire ce que l’IA produit. Ce temps réduit le gain annoncé. Le calcul du ROI d’un projet IA doit l’inclure.

• Votre entreprise répond de ce que dit son outil. Le 14 février 2024, un tribunal canadien a condamné Air Canada : le chatbot de son site avait donné une information fausse à un client. Selon le tribunal, la compagnie présentait en substance le chatbot comme une entité distincte, responsable de ses propres actes. Le tribunal a écarté l’argument : l’entreprise répond de toute l’information de son site.

• Mesurez le taux d’erreur sur vos propres cas. Ce taux dépend de la tâche, de vos documents et de la façon de poser les questions. Testez l’outil sur un échantillon de vos demandes réelles, dont vous connaissez les bonnes réponses, avant de chiffrer un gain.

• La vérification exige une compétence. Seule une personne qui connaît le sujet repère une erreur plausible. Pour un système à haut risque, l’AI Act réserve le contrôle humain à des personnes qui ont la compétence, la formation et l’autorité nécessaires (article 26). Cette obligation s’applique à partir du 2 décembre 2027 ou du 2 août 2028, selon le type de système. Un human in the loop ne protège que si cette personne a le temps de vérifier.

• Préférez un outil qui sait dire « je ne sais pas ». Demandez au fournisseur comment l’outil signale son incertitude, et s’il cite des sources que vous pouvez ouvrir. Un modèle peut aussi abandonner une bonne réponse dès que vous la contestez : c’est la sycophantie.

Exemple illustratif

Ce cas est fictif. Une direction des achats utilise un assistant pour résumer ses contrats fournisseurs. Un résumé mentionne une pénalité de retard que le contrat ne prévoit pas. Un acheteur s’appuie sur ce résumé en négociation, et le fournisseur conteste. L’entreprise change alors la règle : l’assistant cite l’article d’où vient chaque clause, et un juriste vérifie toute clause financière avant usage. Le temps de ce contrôle entre désormais dans le calcul de la valeur du projet.