Token IA et coût d’inférence : définition et logique de facturation

Qu’est-ce qu’un token en IA ?

Un token est un fragment de texte que le modèle lit ou produit : un mot court, une partie de mot, un signe de ponctuation. Le modèle de langage découpe chaque texte en tokens avant de le traiter.

Le découpage varie.

• Selon la langue. OpenAI estime qu’un token vaut environ quatre caractères en anglais. L’éditeur précise que le découpage dépend de la langue et qu’une autre langue que l’anglais peut coûter plus cher à traiter.

• Selon le modèle. Anthropic indique que ses modèles récents (Claude 4.7 et suivants) découpent autrement : un même texte donne environ 30 % de tokens de plus.

Qu’est-ce que le coût d’inférence ?

Le coût d’inférence est ce que coûte l’utilisation d’un modèle déjà entraîné, à chaque requête. Google Cloud décrit l’inférence comme le moment où un modèle « cesse d’apprendre et commence à fonctionner ». L’éditeur paie l’entraînement ; vous payez l’inférence.

Par API, la facture suit une formule simple. DeepSeek l’écrit dans sa grille officielle : coût = nombre de tokens consommés × tarif unitaire du modèle. Anthropic et DeepSeek distinguent au moins trois postes :

• les tokens d’entrée : votre question, vos documents, l’historique ;

• les tokens de sortie : la réponse produite ;

• les tokens d’entrée relus depuis un cache, que les deux éditeurs facturent à part.

Licence ou facturation au token : quelle différence ?

Une licence fixe un prix par utilisateur ; la facturation au token fixe un prix par volume traité. Avec une licence, la facture suit vos effectifs. Avec une API, elle suit l’usage : plus de documents, de requêtes ou d’étapes font monter la facture, même à effectif constant.

Ne confondez pas non plus le token de texte avec le jeton d’accès ou la clé d’API, qui identifie votre compte. Une clé qui fuit permet à un tiers de consommer des tokens à vos frais.

Que change le coût d’inférence pour votre décision ?

• Si l’usage double, la facture suit. Le coût dépend du nombre de requêtes, de leur longueur et du nombre d’étapes. Un agent IA qui enchaîne dix appels consomme bien plus qu’une question simple. Chiffrez le coût d’une tâche type, puis multipliez par le volume visé.

• Une partie des tokens reste invisible. OpenAI facture les tokens de raisonnement de ses modèles comme des tokens de sortie, sans les montrer. L’API Messages d’Anthropic ne garde pas la conversation en mémoire : chaque requête renvoie l’historique. La description des outils d’un agent ajoute aussi des tokens d’entrée à chaque requête. Une image ou une page scannée se convertit aussi en tokens : voir l’IA multimodale.

• Le tarif unitaire bouge. La grille officielle de DeepSeek distingue des heures pleines, en semaine et à l’heure de Pékin, et des heures creuses, moins chères. Anthropic facture moins cher les traitements groupés et différés. Un traitement qui peut attendre peut coûter moins qu’un traitement immédiat.

• Le plus grand modèle n’est pas toujours le bon choix. Un modèle plus petit peut suffire pour classer ou extraire : c’est le principe de l’IA frugale. OpenAI indique aussi qu’un effort de raisonnement plus faible consomme moins de tokens. Le volume de tokens pèse aussi sur l’impact environnemental de l’IA.

• Plafonnez et mesurez par usage. Fixez un plafond de tokens par requête et un budget par cas d’usage. Suivez la consommation par équipe : c’est la base d’un ROI réaliste.

Exemple illustratif

Ce cas est fictif. Une ETI déploie un agent qui trie les demandes de son service après-vente. L’agent lit la demande, consulte l’historique du client et propose une réponse. Le pilote traite 500 demandes par jour. L’équipe mesure les tokens par demande, entrée et sortie à part, et découvre que l’historique client pèse plus que la réponse. Avant de passer à 5 000 demandes par jour, elle limite l’historique aux douze derniers mois. Elle confie le tri simple à un modèle plus petit et passe les synthèses hebdomadaires en traitement groupé et différé.