LLM : définition, fonctionnement et choix d’un grand modèle de langage

Comment fonctionne un LLM ?

Un LLM prédit, morceau par morceau, une suite probable d’un texte. On appelle ces morceaux des tokens : un mot, une partie de mot ou un signe.

L’éditeur construit le modèle en deux étapes.

1. Le pré-entraînement. Le modèle lit un très grand corpus de textes et apprend à prédire le mot suivant. Anthropic décrit ainsi l’entraînement initial de ses modèles Claude.

2. L’ajustement. L’éditeur affine ensuite le modèle, par fine-tuning et par des retours humains, pour qu’il suive des consignes.

Ces modèles reposent en général sur le transformeur (transformer). L’article « Attention Is All You Need » (Vaswani et al.) a décrit cette architecture en 2017. Le mot « grand » renvoie à leur taille : GPT-3 compte 175 milliards de paramètres, selon l’article de Brown et al. (mai 2020).

Un LLM ne lit qu’une quantité limitée de texte à la fois : sa fenêtre de contexte, sa « mémoire de travail » selon Anthropic. Surtout, il produit un texte plausible, pas un texte vérifié. D’où les hallucinations : des réponses fausses que le modèle présente avec assurance.

LLM, IA générative ou chatbot : quelle différence ?

Le LLM est le moteur, l’IA générative la famille, le chatbot le produit.

• L’IA générative couvre tous les modèles qui produisent du contenu : texte, image, son, code. Le LLM en est le modèle spécialisé dans le texte et le code. Certains modèles, comme Gemini, lisent aussi des images ou du son : on parle alors d’IA multimodale.

• Un assistant IA, ou chatbot, combine un ou plusieurs LLM avec une interface, des règles d’usage et parfois l’accès à vos documents.

• Un agent IA utilise un LLM pour enchaîner des actions dans vos outils.

• Un world model prédit l’état suivant d’un environnement, pas la suite d’un texte.

• Un modèle de raisonnement est un LLM entraîné à écrire des étapes de raisonnement avant sa réponse.

Le règlement européen sur l’IA ne définit pas le LLM. Il définit le « modèle d’IA à usage général » (article 3, point 63). Son considérant 99 cite les grands modèles d’IA génératifs comme « un exemple typique » de cette catégorie.

Que change le choix d’un LLM pour votre décision ?

• Aucun classement public ne remplace un test sur vos tâches. Un modèle bien classé sur un banc d’essai général peut décevoir sur vos contrats, vos fiches produits ou votre langue métier. Comparez deux ou trois modèles sur un échantillon de vos cas réels. Le guide choisir un LLM pour l’entreprise propose une grille de comparaison.

• Le modèle change sans que vous le décidiez. Les éditeurs retirent leurs anciennes versions. Anthropic s’engage à prévenir au moins 60 jours avant de retirer un modèle public. OpenAI annonce au moins six mois pour un modèle en disponibilité générale, sauf motif de sécurité ou de conformité. Pour une préversion, le délai peut tomber à deux semaines. Prévoyez qui teste la version suivante, et en combien de temps.

• Vos données suivent le contrat, pas le modèle. Le même modèle n’offre pas les mêmes garanties selon l’offre. OpenAI peut utiliser les conversations de ses offres grand public pour entraîner ses modèles, sauf refus de l’utilisateur. Ses offres entreprise et son API ne le font pas par défaut.

• Le coût suit l’usage. Par API, vous payez chaque token traité. Un modèle plus petit peut suffire pour classer ou extraire ; réservez les plus grands aux tâches qui l’exigent.

• L’AI Act vise d’abord, pour un LLM, le fournisseur du modèle. Depuis le 2 août 2025, le fournisseur d’un modèle d’IA à usage général a ses propres obligations (articles 53 et 113) ; un modèle déjà sur le marché à cette date a jusqu’au 2 août 2027 (article 111). Il tient à jour une documentation technique, informe les entreprises qui intègrent son modèle et publie un résumé des données d’entraînement. Vos obligations dépendent de votre usage : un outil fondé sur un LLM qui trie des candidatures relève de l’annexe III, dont les obligations s’appliquent au 2 décembre 2027.

Exemple illustratif

Ce cas est fictif. Une ETI industrielle veut résumer ses contrats fournisseurs et repérer les clauses de pénalité. Elle teste trois LLM sur 150 contrats que ses juristes ont déjà analysés. Le plus grand modèle gagne de peu ; un modèle moyen fait presque aussi bien, pour un coût bien plus faible. L’ETI retient le modèle moyen et garde la relecture des juristes sur les pénalités. Elle rédige aussi une procédure de bascule : quel jeu de test rejouer, qui valide, en combien de jours, dès que l’éditeur annonce un retrait.