Les hallucinations de l’IA : pourquoi elle se trompe, et comment un agent s’en protège

Vous demandez à un assistant IA le total d’une facture. Il répond 1 420 €, alors que le document dit 1 240 €. Vous lui demandez la référence d’un produit : il en donne une, au bon format, qui n’existe pas dans votre catalogue. Vous lui demandez si une remise de 15 % est autorisée : il répond oui, en citant une règle que personne chez vous n’a écrite.

Ces trois scènes sont imaginées, mais elles ont un point commun bien réel : la réponse est fausse, et elle a l’air juste. C’est ce qu’on appelle une hallucination. Ce guide explique d’où elles viennent, pourquoi personne ne peut promettre qu’elles disparaîtront, et comment on construit un agent IA pour qu’une erreur soit repérée avant de coûter.

Ce qu’on appelle une hallucination

Un modèle de langage est le programme au cœur d’outils comme ChatGPT ou Claude. Il a été entraîné sur de très grandes quantités de texte pour produire, mot après mot, une suite plausible à ce qu’on lui écrit.

Une hallucination est une réponse de ce modèle qui est fausse, ou qui ne correspond pas aux documents qu’on lui a fournis. Anthropic, l’éditeur de Claude, parle dans sa documentation d’un texte « factuellement incorrect ou incohérent avec le contexte donné ». Des chercheurs d’OpenAI, l’éditeur de ChatGPT, décrivent des affirmations « plausibles mais fausses », énoncées avec trop d’assurance.

Deux affaires jugées montrent ce que cela donne hors d’un laboratoire.

• Une référence inventée. En 2023, à New York, des avocats ont déposé devant un tribunal fédéral des décisions de justice qui n’existaient pas, produites par ChatGPT. Interrogé, l’outil avait assuré qu’elles étaient réelles. Le juge a sanctionné les avocats en juin 2023, notamment pour avoir continué à les défendre.
• Une règle inexacte. Le chatbot du site d’Air Canada a indiqué à un client qu’il pourrait demander après son voyage le tarif réduit accordé en cas de décès d’un proche. La compagnie ne le permettait pas. En février 2024, un tribunal des petits litiges de Colombie-Britannique l’a jugée responsable : une entreprise répond de toutes les informations de son site, qu’elles viennent d’une page fixe ou d’un chatbot. La décision ne dit pas quelle technologie animait ce chatbot, mais la leçon vaut pour tout outil qui répond seul.

Dans les deux cas, l’outil n’a pas hésité. Une hallucination ne ressemble pas à une erreur.

Pourquoi un modèle de langage invente

En septembre 2025, quatre chercheurs, dont trois d’OpenAI, ont proposé une explication en deux temps. C’est le point de vue d’un éditeur, mais il est clair.

D’abord, l’apprentissage. Un fait qui revient souvent dans les textes, comme la date de naissance d’Einstein, est rarement faux dans la bouche d’un modèle. Un fait qui n’apparaît qu’une fois, comme l’anniversaire d’une personne cité dans une seule nécrologie, ne peut pas vraiment être appris. Le modèle répond quand même, au bon format. Les auteurs ont demandé à un modèle récent la date d’anniversaire de l’un d’eux, en précisant de ne répondre que s’il la connaissait : trois essais, trois dates fausses.

Ensuite, l’évaluation. La plupart des tests qui servent à noter les modèles ressemblent à des QCM : un point pour une bonne réponse, zéro pour une mauvaise, zéro aussi pour « je ne sais pas ». Deviner rapporte donc plus que reconnaître son ignorance, et les modèles apprennent à deviner.

Anthropic a observé un mécanisme proche à l’intérieur de Claude, dans des travaux publiés en mars 2025. Par défaut, le modèle tend à répondre qu’il ne sait pas ; cette réserve est levée quand il reconnaît un nom qu’il connaît bien. Si un nom lui paraît familier sans qu’il sache rien de plus, la réserve saute à tort, et il compose une réponse plausible.

Pour une entreprise, la conséquence est directe. Vos tarifs, vos références produit, les conditions négociées avec tel client sont des faits rares par excellence : en général, le modèle ne les a jamais vus. Si on ne les lui donne pas, il peut les inventer, avec la même assurance que le reste.

Pourquoi personne ne peut promettre zéro erreur

On demande souvent quelle IA se trompe le moins. La question compte pour choisir un modèle, mais elle ne règle pas le problème : selon les chercheurs d’OpenAI, les hallucinations persistent jusque dans les systèmes les plus avancés. Et un classement porte sur une tâche et une version de modèle données. Il ne dit rien de la façon dont un modèle lira vos factures.

La documentation d’Anthropic est tout aussi nette : ses techniques réduisent nettement les hallucinations sans les éliminer entièrement, et il faut toujours valider les informations critiques. Des chercheurs de l’université nationale de Singapour vont plus loin. Dans un article de 2024, ils soutiennent qu’il est impossible d’éliminer complètement les hallucinations d’un modèle de langage. C’est une thèse de recherche, pas un consensus, mais elle va dans le même sens.

Un prestataire qui promet « zéro hallucination » promet donc ce qu’aucun éditeur de modèle ne promet. La bonne question n’est pas « l’IA va-t-elle se tromper ? », mais « si elle se trompe, qui s’en aperçoit, et avant quoi ? ».

Comment un agent IA s’en protège

Un agent IA ne se contente pas de répondre : il va chercher l’information dans vos logiciels, applique vos règles et prépare une action. Il s’appuie sur un modèle de langage, il peut donc se tromper lui aussi. Ce qui change, c’est la façon dont on l’organise autour de ce risque, dès la conception. Cinq garde-fous font l’essentiel du travail.

1. Les calculs ne sont pas confiés à l’IA. Le modèle lit les documents, le code calcule. Un total, un écart ou un dépassement de seuil se calculent exactement avec quelques lignes de programme. Inutile de les demander à un outil conçu pour produire du texte plausible.

2. Les réponses s’appuient sur vos documents. L’agent ne répond pas de mémoire. Il va chercher la commande, la grille tarifaire ou le contrat là où ils se trouvent, grâce aux accès prévus pour se connecter à vos logiciels, et il note d’où vient chaque information. Anthropic recommande la même chose : limiter le modèle aux documents fournis, et retirer toute affirmation qu’aucune citation exacte ne soutient.

3. Le doute est signalé, jamais deviné. Le modèle doit avoir le droit de répondre « je ne sais pas » : selon Anthropic, cette simple permission peut réduire fortement les informations fausses. Dans un agent, ce « je ne sais pas » devient une étape. Un montant illisible ou une commande introuvable part vers une personne, avec la question posée.

4. Chaque vérification laisse une trace. Pour chaque contrôle, l’agent note la règle appliquée et le document qui fait foi, page comprise. Une erreur se retrouve, se comprend et se corrige.

5. Ce qui engage l’entreprise attend une validation humaine. Payer, accorder une remise, répondre au client sur une règle : ces actions sont soumises à votre équipe. Le cas Air Canada le montre, l’erreur d’un outil qui répond seul devient celle de l’entreprise. La validation humaine se règle action par action, selon ce que coûterait une erreur.

Voici ces garde-fous sur l’exemple fictif de la page d’accueil : la facture FAC-031 de l’Atelier Durand, rattachée à la commande BC-112.

1. Lire les montantsL’IA relève 1 240 € facturés et 1 000 € commandés
2. Calculer l’écart+24 % pour un seuil autorisé de 2 %, calculé par le code
3. Signaler le douteL’échéance n’est pas claire : à vérifier, pas devinée
4. Garder la traceRègle écart ≤ 2 %, FAC-031.pdf, page 1

Facture conformeElle suit son cours, sa trace à l’appui

Soumise à votre équipePaiement de 1 240 € hors seuil, à valider

Si l’IA avait mal lu un montant, la personne qui valide aurait sous les yeux le document et la page d’où il vient. Le même principe vaut pour le contrôle d’une facture face à la commande et au bon de livraison comme pour le contrôle d’un devis avant signature.

Ce que ces garde-fous ne promettent pas

Ils ne rendent pas le modèle infaillible : une lecture peut encore être fausse. Ce qu’ils changent, c’est que l’erreur ne se cache plus dans une réponse sûre d’elle. Elle se heurte à un calcul, à une source notée, à une question posée ou à une validation. C’est aussi pour cela qu’un agent est testé sur vos vrais documents avant sa mise en service, y compris ceux qui ont déjà posé problème.

Par où commencer

Pas besoin d’attendre un modèle parfait. Prenez le processus que vous voulez confier à l’IA et listez les informations qui engagent l’entreprise : montants, références, conditions, réponses données aux clients. Pour chacune, décidez qui la vérifie :

• le code, pour ce qui se calcule : totaux, écarts, seuils, dates ;
• le document source, pour ce qui se lit : la commande, le contrat, la grille tarifaire ;
• une personne, pour ce qui engage : un paiement, une remise, une réponse sur une règle.

Le reste, comme classer un document ou mettre à jour un suivi, l’agent peut le faire seul, en laissant une trace.

Pour voir comment ces règles s’appliquent à chaque agent sur mesure, la page d’accueil détaille les garde-fous.