Hallucinations de l’IA : pourquoi elle invente, et comment vous protéger

Vous avez déjà posé une question à une IA et obtenu une réponse parfaitement rédigée… et complètement fausse ? Ce phénomène s’appelle une hallucination. Il n’est pas un bug rare : il découle de la façon dont fonctionnent les IA génératives. Bonne nouvelle : on peut s’en protéger.

Pourquoi une IA invente

Un grand modèle de langage (LLM) ne « pense » pas et ne consulte pas une base de faits. À chaque mot, il calcule le mot le plus probable à placer après le précédent, sur la base de tout ce qu’il a appris. C’est comme vous, quand on vous dit « Qui vivra… » : vous répondez « verra » sans réfléchir, parce que vous avez lu cette phrase mille fois.

Le résultat est la réponse « plausible », pas forcément la vraie. Si vous demandez qui a gagné le championnat de France en 2027, une date qu’elle ne peut pas connaître, une IA peut vous répondre avec aplomb plutôt que de dire « je ne sais pas ». Elle prédit le probable : elle peut dire des choses fausses avec un ton parfaitement sûr d’elle.

Un cas réel : Mata contre Avianca (New York, 2023)

Dans cette affaire, un avocat a présenté au tribunal un mémoire contenant six décisions de justice qui n’existaient pas, générées par un assistant IA. L’affaire est devenue un cas d’école : l’IA avait fabriqué des références crédibles, avec noms de juridictions et citations. L’avocat, qui n’avait pas vérifié, a été sanctionné.

La leçon n’est pas « n’utilisez pas l’IA », mais : l’IA prépare, vous vérifiez.

Les modèles récents se trompent moins, mais la règle reste la même

Les assistants actuels savent chercher sur Internet et citer des sources, ce qui réduit les erreurs. Mais ils ne les éliminent pas. Plus l’enjeu est élevé (contrat, chiffre, référence réglementaire, information client), plus il faut contrôler.

5 réflexes pour vous protéger

1. Vérifiez les faits importants : chiffres, dates, noms, références juridiques, dans une source fiable.
2. Demandez les sources : « Donne-moi tes sources avec les liens », puis ouvrez-les. Une source qui n’existe pas est un signal d’alerte.
3. Donnez du contexte et des documents : une IA qui s’appuie sur votre texte invente moins qu’une IA qui répond de mémoire.
4. Autorisez le « je ne sais pas » : ajoutez « si tu n’es pas sûr, dis-le ». Cela réduit les réponses inventées.
5. Gardez un humain responsable : toute information transmise à un client, un juge ou un partenaire doit être relue et validée par une personne.

Et dans l’entreprise ?

Les hallucinations sont un risque métier : un devis erroné, une réponse client fausse, une mention légale inventée. C’est l’une des raisons pour lesquelles l’AI Act demande de former les équipes à l’IA (voir l’obligation de formation, article 4). Une charte d’usage doit aussi préciser ce qui doit être relu avant envoi (modèle de charte).

À retenir

• Une IA produit la réponse la plus probable, pas toujours la vraie.
• Plus l’enjeu est élevé, plus la vérification doit être systématique.
• L’IA est un excellent assistant, pas une source de vérité.

Dans notre atelier d’initiation à l’IA, nous montrons une hallucination en direct et nous travaillons les réflexes de vérification. Parlons de votre équipe.