Hallucination (IA)
Hallucination (IA) = l'erreur dite avec aplomb
Une hallucination est une réponse fausse ou inventée qu'un modèle d'IA générative présente avec la même assurance qu'une information exacte : une citation qui n'existe pas, une jurisprudence fictive, une fonction de code qui n'a jamais existé.
Le phénomène vient du fonctionnement même des LLM. Ils produisent le texte le plus plausible, token après token, à partir de ce qu'ils ont appris, sans vérifier les faits dans une source. Le risque augmente sur les sujets pointus ou rares, les chiffres précis, les références, et quand la question suppose une réponse qui n'existe pas.
On ne peut pas le supprimer totalement, mais on le réduit :
- ancrer les réponses dans des documents fiables avec le RAG, et faire citer les sources ;
- autoriser explicitement le modèle à répondre qu'il ne sait pas ;
- vérifier les sorties par des règles, un second modèle ou un humain ;
- mesurer en continu le taux d'erreur sur un jeu de tests.
Pourquoi ça compte quand on recrute
Tout AI Engineer doit savoir mesurer les hallucinations, pas seulement les citer. Bonne question d'entretien : « Comment savez-vous que votre système se trompe moins qu'avant ? ». Un vrai niveau parle de jeu d'évaluation, de métriques et de revue humaine. Côté management, c'est aussi le critère qui sépare un prototype impressionnant d'un produit fiable.