Hallucination (IA)

On parle d'hallucination quand un modèle d'IA génératif produit une information fausse ou inventée tout en la présentant avec assurance - citation inexistante, code qui appelle une API qui n'existe pas, fait historique fabriqué.

Le phénomène est inhérent aux LLM, qui génèrent en prédisant statistiquement le prochain token plutôt qu'en raisonnant sur des faits vérifiés. Il s'aggrave hors distribution d'entraînement et sur les sujets pointus.

Les contre-mesures usuelles sont le RAG (ancrer la génération dans des sources fiables), la vérification post-hoc (un second appel qui valide les faits), la citation explicite des sources, des prompts qui autorisent à dire « je ne sais pas », et l'évaluation continue des sorties.