Glossaire · IA et modèles
Hallucination
Une hallucination est une réponse fausse ou inventée qu’une IA présente avec assurance, comme un chiffre, une source ou une loi qui n’existent pas.
Aussi appelé : confabulation
On parle d’hallucination quand une IA affirme quelque chose de faux avec le même aplomb que lorsqu’elle a raison : une statistique inventée, un article de loi qui n’existe pas, une citation jamais prononcée, une fonction de logiciel imaginaire. Le texte est bien écrit et convaincant et c’est justement ce qui rend l’erreur difficile à repérer. Aux États-Unis, des avocats ont ainsi été sanctionnés pour avoir cité devant un tribunal des décisions de justice inventées par une IA.
Ce n’est ni une panne ni un mensonge. Un LLM produit le texte le plus vraisemblable, pas forcément le plus juste : quand il manque d’informations, il comble le vide avec quelque chose de plausible. Les hallucinations sont plus fréquentes sur les sujets pointus, les chiffres précis, l’actualité récente et tout ce qui concerne votre entreprise.
Pour s’en protéger :
- fournir les documents de référence plutôt que compter sur la mémoire de l’IA ;
- lui demander de citer ses sources, puis les ouvrir ;
- l’autoriser à répondre « je ne sais pas » ;
- vérifier tout chiffre, nom ou référence avant de l’utiliser.
Quand l’IA crée un outil, l’hallucination prend une autre forme : elle annonce qu’une fonction marche alors qu’elle n’a pas été testée ou qu’une règle est respectée alors qu’elle ne l’est pas. D’où l’importance de vos propres tests, avec des cas concrets.
Exemple. À la paie, Yasmine demande à une IA le taux d’une cotisation : la réponse a l’air précise, mais la source citée n’existe pas, alors elle vérifie sur le site de l’Urssaf.
Avec Genipy
Une IA peut annoncer qu’un outil fonctionne alors qu’il reste un défaut. D’où l’intérêt des vérifications de Genipy à chaque publication (tests, contrôle des accès, passage dans un vrai navigateur) : si l’une échoue, la version déjà en ligne reste en place.