Hallucination : définition
Quand un LLM invente des faits qui paraissent crédibles mais sont faux. Cause majeure de méfiance envers ces modèles. Les techniques RAG, le grounding et les reasoning models réduisent ce risque sans l'éliminer totalement.
Dit simplement
Une hallucination, c’est une réponse fausse dite avec aplomb. Le modèle produit la suite la plus plausible, et une suite plausible peut être inexacte.
Un exemple
Tu demandes une référence juridique et le modèle te donne un numéro d’arrêt, une date et une juridiction qui n’existent pas, dans une forme irréprochable.
Pourquoi ça compte
C’est la limite à garder en tête dès qu’une erreur a un coût : droit, santé, chiffres. On la réduit en fournissant les sources au modèle et en lui demandant de les citer, et on vérifie ce qui compte.
À lire ensuite
- RAGTechnique qui consiste à récupérer des documents pertinents dans une base de connaissances avant de les…
- Reasoning modelModèle entraîné spécifiquement pour passer du temps à raisonner avant de répondre, en générant en interne…
- LLMModèle de langage de très grande taille, souvent plusieurs centaines de milliards de paramètres, entraîné à…
- BenchmarkJeu de tests standardisé qui sert à mesurer et comparer les performances des modèles sur une tâche donnée :…
Ces mots, tu les croises chaque jeudi dans Hypernews IA.
Les trois actualités IA qui comptent, expliquées simplement. Gratuit, sans spam.
S’inscrire