Ce qu’est un token
Un modèle de langage ne lit pas des lettres ni des mots entiers : il découpe le texte en tokens, en français jetons. Un token peut être un mot court (« le », « facture »), un morceau de mot plus long, une espace ou un signe de ponctuation. Ce découpage s’appelle la tokenisation.
Le modèle produit lui aussi sa réponse token par token : à chaque étape, il choisit le fragment le plus probable, puis le suivant.
Pourquoi tout se compte en tokens
- Les limites : la fenêtre de contexte, c’est-à-dire ce que le modèle peut traiter en une fois, est exprimée en tokens.
- Le coût : les services d’IA en ligne facturent généralement au nombre de tokens envoyés et reçus.
- La vitesse : plus il y a de tokens à lire et à produire, plus la réponse est longue à arriver.
Ce que ça change pour une PME
Pour un usage ponctuel, les tokens sont invisibles. Ils deviennent concrets quand un traitement tourne tous les jours sur des centaines de documents : chaque facture, chaque e-mail, chaque consigne répétée se paie. Une consigne inutilement longue, envoyée mille fois par mois, finit par compter.
Les bonnes pratiques sont simples : envoyer seulement les informations utiles, éviter de répéter les mêmes longues instructions, et choisir un modèle à la taille de la tâche.
Tokens et IA locale
Avec une IA locale, on ne paie pas les tokens à un éditeur : le coût est celui de la machine et de son entretien. Le volume de tokens reste pourtant important, car il détermine la puissance nécessaire et le temps de réponse. Dimensionner une installation commence donc par estimer le volume réel de documents à traiter.