Fine-tuning : définition et quand ajuster un LLM

Comment fonctionne le fine-tuning ?

Le fine-tuning poursuit l’entraînement d’un modèle existant sur des exemples que vous préparez, le plus souvent une demande et la réponse attendue. Le modèle ajuste ses paramètres pour reproduire ces exemples. Il en sort une variante du modèle, distincte du modèle de base.

La documentation d’OpenAI distingue notamment trois méthodes :

• l’ajustement supervisé, qui montre au modèle des exemples de bonnes réponses ;

• l’ajustement par préférence, qui lui montre une bonne et une mauvaise réponse pour la même demande ;

• l’ajustement par renforcement, où un correcteur note les réponses du modèle ; OpenAI le réserve aux modèles de raisonnement.

Des méthodes légères réduisent le calcul nécessaire. LoRA, que des chercheurs de Microsoft ont publiée en 2021, gèle le modèle d’origine et n’entraîne que de petites matrices ajoutées. Sur GPT-3, ses auteurs divisent ainsi par 10 000 le nombre de paramètres à entraîner et par trois la mémoire GPU nécessaire.

Fine-tuning ou RAG : que choisir ?

Choisissez le RAG pour donner des connaissances au modèle, et le fine-tuning pour changer sa manière de répondre. Les faits changent souvent ; un format ou un ton change rarement.

• Pour des faits, le RAG fait mieux. Des chercheurs de Microsoft (Ovadia et al., janvier 2024) ont comparé les deux méthodes sur trois modèles de 7 milliards de paramètres. Le RAG l’emporte sur le fine-tuning non supervisé, et les modèles peinent à apprendre des faits nouveaux par fine-tuning.

• Pour un comportement, le fine-tuning a sa place. OpenAI le présente comme un moyen d’obtenir des réponses au format constant. L’éditeur conseille de commencer par le prompt engineering, qui peut suffire.

• Pour des données confidentielles, le RAG protège mieux. L’ANSSI rappelle que, sur les données d’entraînement, « la gestion de droits d’accès pour les utilisateurs n’est pas possible » (R7). Vous ne pouvez donc pas réserver à certains utilisateurs une information que le modèle a apprise. Vous ne pouvez pas non plus l’en retirer simplement : il faut réentraîner le modèle ou recourir au désapprentissage machine.

Les deux se combinent : un modèle ajusté pour le format peut puiser ses faits dans vos documents. Le guide RAG ou fine-tuning aide à trancher sur vos cas d’usage.

Que change le fine-tuning pour votre décision ?

• Un modèle ajusté dépend de son modèle de base. Le 14 octobre 2026, OpenAI a annoncé le retrait de GPT-4o et de GPT-4.1 de son API au 14 janvier 2027. Selon l’éditeur, les versions ajustées de ces modèles suivent le même calendrier. Conservez vos exemples et vos tests pour refaire l’ajustement ailleurs (voir dépendance fournisseur).

• L’offre des éditeurs recule. OpenAI ferme son service de fine-tuning en libre-service. Depuis le 7 mai 2026, une organisation qui ne l’avait jamais utilisé ne peut plus lancer d’entraînement. Ses clients actifs perdent cette possibilité le 6 janvier 2027. La documentation de Mistral AI présente aussi sa fonction de fine-tuning comme dépréciée. Les modèles à poids ouverts que vous hébergez restent ajustables si leur licence le permet.

• Le vrai coût se trouve dans les exemples et les tests. Vous devez réunir des exemples justes, les corriger, puis mesurer le résultat. OpenAI recommande d’écrire les tests d’évaluation avant ou pendant la rédaction des consignes, sur des données proches de la production. Chaque changement de modèle de base relance ce travail.

• L’AI Act regarde l’ampleur de la modification et l’usage. La Commission européenne précise la règle dans ses questions-réponses (mise à jour du 11 novembre 2025). Celui qui ajuste un modèle d’IA à usage général n’en devient fournisseur que s’il mobilise plus d’un tiers du calcul de l’entraînement initial. La plupart des fine-tunings restent sous ce seuil. L’usage compte davantage. Si le modèle ajusté trie des candidatures, usage à haut risque, l’article 25 de l’AI Act peut faire de vous le fournisseur du système.

Exemple illustratif

Ce cas est fictif. Un assureur veut que son assistant réponde aux courtiers selon ses conditions générales, avec une présentation fixe. Les conditions changent chaque trimestre : il les confie à un RAG. Pour la présentation, il teste d’abord des consignes mieux rédigées. Il n’envisage un fine-tuning que si ses tests montrent un format instable. Il chiffre alors le coût d’un nouvel ajustement à chaque changement de modèle.