Tokens für Gemini-Modelle zählen

Gemini-Modelle verarbeiten Eingaben und Ausgaben in Einheiten, die als Tokens bezeichnet werden.

Tokens können einzelne Zeichen wie z oder ganze Wörter wie cat sein. Lange Wörter werden in mehrere Tokens aufgeteilt. Die Gesamtheit aller vom Modell verwendeten Tokens wird als Vokabular bezeichnet. Der Prozess, bei dem Text in Tokens aufgeteilt wird, wird als Tokenisierung bezeichnet.

Bei Gemini-Modellen entspricht ein Token etwa 4 Zeichen. 100 Tokens entsprechen etwa 60–80 englischen Wörtern.

Jedes Modell hat eine maximale Anzahl von Tokens, die es in einem Prompt und einer Antwort verarbeiten kann. Wenn Sie die Tokenanzahl Ihres Prompts kennen, wissen Sie, ob Sie dieses Limit überschritten haben. Außerdem werden die Kosten einer Anfrage teilweise durch die Anzahl der Eingabe- und Ausgabetokens bestimmt. Daher kann es hilfreich sein, zu wissen, wie Tokens gezählt werden.

Unterstützte Modelle

  • gemini-4-argon
  • gemini-3.8-flash (und die älteren gemini-3.7-flash, gemini-3.6-flash und gemini-3.5-flash)
  • gemini-3.5-flash-lite (und die ältere gemini-3.1-flash-lite)
  • gemini-nano-banana-2.1 (Nano Banana 2.1)
  • gemini-3.1-flash-image (Nano Banana 2)
  • gemini-3.1-flash-lite-image (Nano Banana 2 Lite)
  • gemini-3-pro-image (Nano Banana Pro)
  • gemini-3.1-flash-tts-preview

Die Modelle gemini-3.1-pro-preview und die allgemeinen und bildgenerierenden Modelle Gemini 2.5 (die verworfen wurden) unterstützen diese Funktion ebenfalls.

Optionen zum Zählen von Tokens

Alle Eingaben und Ausgaben für Gemini API werden tokenisiert, einschließlich Text, Bilddateien und anderer nicht textbasierter Modalitäten. Hier sind die Optionen zum Zählen von Tokens:

Prüfen Sie die Tokenanzahl nur für Ihre Anfragen (bevor Sie sie an das Modell senden).
Rufen Sie countTokens mit der Eingabe der Anfrage auf, bevor Sie sie an das Modell senden. Dies gibt Folgendes zurück:
  • total_tokens: Tokenanzahl nur für die Eingabe
Prüfen Sie die Tokenanzahl für Ihre Anfragen und Antworten.
Greifen Sie auf das Attribut usageMetadata des Antwortobjekts zu. Dazu zählen:
  • prompt_token_count: Tokenanzahl nur für die Eingabe
  • candidates_token_count: Tokenanzahl nur für die Ausgabe (ohne Thinking-Tokens)
  • thoughts_token_count: Anzahl der Thinking-Tokens, die zum Generieren der Antwort verwendet wurden
  • total_token_count: Gesamtzahl der Tokens für sowohl die Eingabe als auch die Ausgabe (einschließlich aller Thinking-Tokens)

Beim Streamen der Ausgabe wird das Attribut usageMetadata nur im letzten Block des Streams angezeigt. Für Zwischenblöcke ist der Wert nil.

Beachten Sie Folgendes zu den oben genannten Optionen:

  • Die Anzahl der Eingabebilder oder die Anzahl der Sekunden in Video- oder Audioeingabedateien wird nicht gezählt. Die Tokenanzahl für jede dieser Modalitäten korreliert jedoch mit diesen Werten.
  • Die Anzahl der Eingabe-Tokens umfasst den Prompt (Text und alle Eingabedateien) sowie alle Systemanweisungen und Tools.
  • Die Anzahl der Ausgabetokens enthält keine Thinking-Tokens. Diese werden in einem separaten Feld angegeben.
  • Lesen Sie die zusätzlichen Informationen zu den einzelnen Anfragetypen weiter unten auf dieser Seite.
  • Gemini Live API-Modelle unterstützen countTokens nicht. Außerdem unterstützt Firebase AI Logic das Attribut usageMetadata in der Antwort von Live API-Modellen noch nicht. Das wird aber demnächst verfügbar sein.

Preise für diese Optionen

  • countTokens aufrufen: Für den Aufruf von countTokens (Count Tokens API) fallen keine Gebühren an. Das maximale Kontingent für die Count Tokens API beträgt 3.000 Anfragen pro Minute (RPM).

  • Attribut usageMetadata verwenden: Dieses Attribut wird immer als Teil der Antwort zurückgegeben und verursacht keine Kosten oder Token.

Weitere Informationen

Hier finden Sie einige zusätzliche Informationen zu bestimmten Arten von Anfragen.

Texteingabetokens zählen

Keine weiteren Informationen.

Multi-Turn-Tokens (Chat) zählen

Beachten Sie Folgendes, wenn Sie countTokens im Chat aufrufen:

  • Wenn Sie countTokens mit dem Chatverlauf aufrufen, wird die Gesamtzahl der Tokens von beiden Rollen im Chat (total_tokens) zurückgegeben.
  • Wenn Sie wissen möchten, wie groß Ihr nächster Gesprächsbeitrag sein wird, müssen Sie ihn beim Aufruf von countTokens an den Verlauf anhängen.

Multimodale Eingabetokens zählen

Beachten Sie die folgenden Punkte zum Zählen von Tokens mit multimodaler Eingabe:

  • Sie können countTokens optional separat für den Text und die Datei aufrufen.
  • Bei beiden Optionen zum Zählen von Tokens erhalten Sie dieselbe Tokenanzahl, unabhängig davon, ob Sie die Datei als Inline-Daten oder über ihre URL bereitstellen.

Bildeingabedateien

Bildeingabedateien werden basierend auf ihren Abmessungen in Tokens umgewandelt:

  • Bildeingaben, bei denen beide Dimensionen kleiner oder gleich 384 Pixel sind: Jedes Bild wird als 258 Tokens gezählt.
  • Bildeingaben, die in einer oder beiden Dimensionen größer sind: Jedes Bild wird nach Bedarf zugeschnitten und in Kacheln mit 768 x 768 Pixeln skaliert. Jede Kachel wird dann als 258 Tokens gezählt.

Video- und Audioeingabedateien

Video- und Audioeingabedateien werden mit den folgenden festen Raten in Tokens umgewandelt:

  • Video: 263 Tokens pro Sekunde
  • Audio: 32 Tokens pro Sekunde

Dokumente (z. B. PDFs) als Eingabedateien

PDF-Eingabedateien werden als Bilder behandelt, sodass jede Seite einer PDF-Datei auf die gleiche Weise wie ein Bild tokenisiert wird.