Aller au contenu

Hallucination : définition

Quand un LLM invente des faits qui paraissent crédibles mais sont faux. Cause majeure de méfiance envers ces modèles. Les techniques RAG, le grounding et les reasoning models réduisent ce risque sans l'éliminer totalement.

Dit simplement

Une hallucination, c’est une réponse fausse dite avec aplomb. Le modèle produit la suite la plus plausible, et une suite plausible peut être inexacte.

Un exemple

Tu demandes une référence juridique et le modèle te donne un numéro d’arrêt, une date et une juridiction qui n’existent pas, dans une forme irréprochable.

Pourquoi ça compte

C’est la limite à garder en tête dès qu’une erreur a un coût : droit, santé, chiffres. On la réduit en fournissant les sources au modèle et en lui demandant de les citer, et on vérifie ce qui compte.

Ces mots, tu les croises chaque jeudi dans Hypernews IA.

Les trois actualités IA qui comptent, expliquées simplement. Gratuit, sans spam.

S’inscrire