IA frugale : définition et choix du plus petit modèle utile

Que recouvre l’IA frugale ?

L’IA frugale consiste à utiliser l’IA seulement quand elle sert, avec les moyens les plus légers qui suffisent. En France, le référentiel AFNOR Spec 2314, publié en juin 2024, doit servir de point de repère aux entreprises. Son application reste volontaire. Un groupe de 150 contributeurs l’a préparé en six mois, sous le pilotage de l’Ecolab du Commissariat général au développement durable et en partenariat avec l’AFNOR.

Le référentiel propose une méthode pour évaluer l’impact environnemental d’un service d’IA et 31 bonnes pratiques. La deuxième bonne pratique demande de choisir la solution « en considérant les alternatives à l’IA ». La frugalité porte donc sur trois décisions :

1. Le besoin : une règle métier, une recherche classique ou un tableur suffisent-ils ?

2. La taille du modèle : un petit modèle spécialisé fait-il le travail, plutôt qu’un grand modèle de langage généraliste ?

3. L’usage : combien de requêtes, de quelle longueur, et à quelle fréquence réentraîner le modèle ?

Pourquoi la taille du modèle compte-t-elle ?

À volume égal, l’impact d’un modèle croît avec sa taille. Mistral AI a publié le 22 juillet 2025 l’analyse de cycle de vie de son modèle Mistral Large 2. L’éditeur l’a menée avec le cabinet Carbone 4 et le soutien de l’ADEME. Il y conclut que, pour un même nombre de tokens produits, un modèle dix fois plus grand a un impact supérieur d’un ordre de grandeur. Il recommande de choisir la taille de modèle adaptée au besoin et de regrouper les requêtes.

La facture suit une logique proche. Avec une facturation à l’usage, elle dépend du volume de tokens traités et du tarif du modèle choisi. Un petit modèle peut aussi tourner sur vos propres serveurs. OpenAI indique par exemple que gpt-oss-20b, un de ses modèles à poids ouverts, fonctionne avec 16 Go de mémoire.

IA frugale ou IA efficiente : quelle différence ?

L’efficience optimise les moyens pour un résultat fixé ; la frugalité accepte un résultat suffisant et revoit le besoin lui-même. Le référentiel AFNOR distingue les deux notions. Un système efficient réduit ses besoins en ressources « tout en conservant une performance suffisante ». La frugalité consiste à « se contenter d’un niveau de résultat jugé suffisant en redéfinissant les usages et les besoins ».

Concrètement, compresser un grand modèle relève de l’efficience. Renoncer à l’IA pour une tâche qu’une règle simple traite relève de la frugalité.

Ne confondez pas non plus frugal et bon marché. Un modèle trop petit qui se trompe souvent coûte en vérification humaine : chaque hallucination demande une relecture.

Que change l’IA frugale pour votre décision ?

• Partez de la tâche, pas du modèle. Décrivez le cas d’usage et le niveau de qualité suffisant avant de choisir une technologie. Le référentiel AFNOR recommande de considérer les alternatives à l’IA.

• Testez d’abord le plus petit modèle. Mesurez son taux de réussite sur un échantillon de vos tâches réelles. Passez à un modèle plus grand seulement si l’écart de qualité le justifie.

• Chiffrez le coût à l’usage, pas seulement à l’achat. Projetez la facture et la consommation d’énergie pour un usage qui double.

• Demandez des mesures à vos fournisseurs. Certains éditeurs publient l’empreinte de leurs modèles, comme Mistral AI en 2025. Exigez la méthode et le périmètre de la mesure, pas seulement un chiffre.

• Fixez une règle de réentraînement. Chaque réentraînement consomme des ressources. Le référentiel AFNOR recommande de définir les critères qui le justifient.

Exemple illustratif

Ce cas est fictif. Un assureur veut classer ses courriels entrants par motif : sinistre, résiliation, réclamation, autre. Le premier projet appelle un grand modèle généraliste pour chaque courriel. L’équipe teste ensuite un petit modèle spécialisé sur un échantillon de courriels déjà classés. Ce modèle atteint la qualité que le service client juge suffisante et tourne sur un serveur interne. Seuls les cas ambigus passent encore par le grand modèle. Un routeur LLM automatise ce tri, requête par requête.