LLM : définition
Large Language Model
Modèle de langage de très grande taille, souvent plusieurs centaines de milliards de paramètres, entraîné à prédire le mot suivant sur d'énormes corpus de texte. GPT, Claude, Gemini et Mistral sont des LLM.
Dit simplement
Un LLM est un programme qui a lu une quantité gigantesque de textes et qui a appris à continuer une phrase de façon plausible. À force de prédire la suite, il a fini par capter la grammaire, des faits, des raisonnements et des styles.
Un exemple
Quand tu écris à ChatGPT, Claude, Gemini ou Le Chat, tu parles à un LLM. L’interface de discussion n’est qu’un habillage : dessous, le modèle prolonge ton message, un token après l’autre.
Pourquoi ça compte
Presque tous les outils d’IA générative apparus depuis 2022 reposent sur un LLM. Comprendre qu’il prédit du texte, sans base de données de vérités derrière lui, explique à la fois sa souplesse et ses hallucinations.
À lire ensuite
- TransformerArchitecture de réseau de neurones introduite en 2017 par Google dans le papier « Attention Is All You Need…
- TokenUnité de base manipulée par un LLM. Un token peut être un mot entier, un morceau de mot, ou un signe de…
- Context windowQuantité maximale de tokens qu'un modèle peut traiter en une seule requête. Détermine combien de texte tu…
- HallucinationQuand un LLM invente des faits qui paraissent crédibles mais sont faux. Cause majeure de méfiance envers ces…
- Foundation modelModèle de très grande taille pré-entraîné sur un corpus massif et générique, conçu pour servir de base à de…
Ces mots, tu les croises chaque jeudi dans Hypernews IA.
Les trois actualités IA qui comptent, expliquées simplement. Gratuit, sans spam.
S’inscrire