Compter les jetons pour les modèles Gemini

Les modèles Gemini traitent les entrées et les sorties en unités appelées jetons.

Les jetons peuvent être des caractères uniques comme z ou des mots entiers comme cat. Les mots longs sont divisés en plusieurs jetons. L'ensemble de tous les jetons utilisés par le modèle est appelé "vocabulaire", et le processus de division du texte en jetons est appelé tokenisation.

Pour les modèles Gemini, un jeton équivaut à environ quatre caractères. 100 jetons correspondent à environ 60 à 80 mots en anglais.

Chaque modèle dispose d'un nombre maximal de jetons qu'il peut gérer dans un prompt et une réponse. Connaître le nombre de jetons de votre prompt vous permet de savoir si vous avez dépassé cette limite. De plus, le coût d'une requête est déterminé en partie par le nombre de jetons d'entrée et de sortie. Il peut donc être utile de savoir comment compter les jetons.

Modèles compatibles

  • gemini-4-argon
  • gemini-3.8-flash (et les versions plus anciennes gemini-3.7-flash, gemini-3.6-flash et gemini-3.5-flash)
  • gemini-3.5-flash-lite (et l'ancien gemini-3.1-flash-lite)
  • gemini-nano-banana-2.1 (Nano Banana 2.1)
  • gemini-3.1-flash-image (Nano Banana 2)
  • gemini-3.1-flash-lite-image (Nano Banana 2 Lite)
  • gemini-3-pro-image (Nano Banana Pro)
  • gemini-3.1-flash-tts-preview

Les modèles gemini-3.1-pro-preview, d'usage général et de génération d'images Gemini 2.5 (obsolètes) sont également compatibles avec cette fonctionnalité.

Options de comptabilisation des jetons

Toutes les entrées et sorties de Gemini API sont tokenisées, y compris le texte, les fichiers image et les autres modalités non textuelles. Voici les options de comptage des jetons :

Vérifiez le nombre de jetons pour vos requêtes uniquement (avant de les envoyer au modèle).
Appelez countTokens avec l'entrée de la requête avant de l'envoyer au modèle. Le résultat est le suivant :
  • total_tokens : nombre de jetons de l'entrée uniquement
Vérifiez le nombre de jetons pour vos requêtes et vos réponses.
Accédez à l'attribut usageMetadata de l'objet de réponse. Cela inclut les éléments suivants :
  • prompt_token_count : nombre de jetons de l'entrée uniquement
  • candidates_token_count : nombre de jetons de la sortie uniquement (n'inclut pas les jetons de raisonnement)
  • thoughts_token_count : nombre de jetons de raisonnement utilisés pour générer la réponse
  • total_token_count : nombre total de jetons pour l'entrée et la sortie (y compris les jetons de raisonnement)

Lors de la diffusion de la sortie, l'attribut usageMetadata n'apparaît que sur le dernier fragment du flux. La valeur est nil pour les fragments intermédiaires.

Notez les points suivants concernant les options ci-dessus :

  • Elles ne comptent pas le nombre d'images d'entrée ni le nombre de secondes dans les fichiers d'entrée vidéo ou audio. Toutefois, le nombre de jetons pour chacune de ces modalités sera corrélé à ces valeurs.
  • Le nombre de jetons d'entrée inclut la requête (texte et fichiers d'entrée), ainsi que les instructions système et les outils.
  • Le nombre de jetons de sortie n'inclut pas les jetons de raisonnement, qui sont fournis dans un champ distinct.
  • Consultez les informations supplémentaires spécifiques à chaque type de demande plus loin sur cette page.
  • Les modèles Gemini Live API ne sont pas compatibles avec countTokens. De plus, Firebase AI Logic ne prend pas encore en charge l'attribut usageMetadata dans la réponse des modèles Live API, mais il sera bientôt disponible.

Tarifs de ces options

  • Appel de countTokens : l'appel de countTokens (l'API CountTokens) est sans frais. Le quota maximal pour l'API CountTokens est de 3 000 requêtes par minute (RPM).

  • Utiliser l'attribut usageMetadata : cet attribut est toujours renvoyé dans la réponse et n'entraîne pas de frais ni de jetons.

Informations supplémentaires

Voici quelques informations supplémentaires sur l'utilisation de types de requêtes spécifiques.

Compter les jetons de texte d'entrée

Aucune information supplémentaire.

Compter les jetons multitours (chat)

Notez les points suivants pour appeler countTokens lorsque vous utilisez le chat :

  • Si vous appelez countTokens avec l'historique des discussions, il renvoie le nombre total de jetons des deux rôles dans la discussion (total_tokens).
  • Pour comprendre l'ampleur de votre prochain tour de conversation, vous devez l'ajouter à l'historique lorsque vous appelez countTokens.

Compter les jetons d'entrée multimodaux

Notez les points suivants concernant le comptage des jetons avec une entrée multimodale :

  • Vous pouvez éventuellement appeler countTokens sur le texte et le fichier séparément.
  • Pour les deux options de comptage des jetons, vous obtiendrez le même nombre de jetons, que vous fournissiez le fichier en tant que données intégrées ou à l'aide de son URL.

Fichiers d'entrée d'image

Les fichiers d'image d'entrée sont convertis en jetons en fonction de leurs dimensions :

  • Entrées d'image dont les deux dimensions sont inférieures ou égales à 384 pixels : chaque image est comptabilisée comme 258 jetons.
  • Entrées d'image plus grandes dans une ou deux dimensions : chaque image est recadrée et mise à l'échelle selon les besoins en vignettes de 768 x 768 pixels, puis chaque vignette est comptabilisée comme 258 jetons.

Fichiers d'entrée vidéo et audio

Les fichiers d'entrée vidéo et audio sont convertis en jetons aux taux fixes suivants :

  • Vidéo : 263 jetons par seconde
  • Audio : 32 jetons par seconde

Fichiers d'entrée de document (comme les PDF)

Les fichiers d'entrée PDF sont traités comme des images. Ainsi, chaque page d'un PDF est tokenisée de la même manière qu'une image.