Menghitung token untuk model Gemini

Model Gemini memproses input dan output dalam unit yang disebut token.

Token dapat berupa karakter tunggal seperti z atau kata utuh seperti cat. Kata-kata panjang dipecah menjadi beberapa token. Kumpulan semua token yang digunakan oleh model disebut kosakata, dan proses pemisahan teks menjadi token disebut tokenisasi.

Untuk model Gemini, satu token setara dengan sekitar 4 karakter. 100 token setara dengan sekitar 60-80 kata dalam bahasa Inggris.

Setiap model memiliki jumlah maksimum token yang dapat ditanganinya dalam perintah dan respons. Dengan mengetahui jumlah token perintah, Anda dapat mengetahui apakah Anda telah melampaui batas ini. Selain itu, biaya permintaan sebagian ditentukan oleh jumlah token input dan output, sehingga mengetahui cara menghitung token dapat membantu.

Model yang didukung

  • gemini-4-argon
  • gemini-3.8-flash (dan gemini-3.7-flash, gemini-3.6-flash, dan gemini-3.5-flash yang lebih lama)
  • gemini-3.5-flash-lite (dan gemini-3.1-flash-lite yang lebih lama)
  • gemini-nano-banana-2.1 (Nano Banana 2.1)
  • gemini-3.1-flash-image (Nano Banana 2)
  • gemini-3.1-flash-lite-image (Nano Banana 2 Lite)
  • gemini-3-pro-image (Nano Banana Pro)
  • gemini-3.1-flash-tts-preview

Model gemini-3.1-pro-preview dan model penggunaan umum dan pembuat gambar Gemini 2.5 (yang tidak digunakan lagi) juga mendukung kemampuan ini.

Opsi untuk menghitung token

Semua input dan output untuk Gemini API ditokenisasi, termasuk teks, file gambar, dan modalitas non-teks lainnya. Berikut adalah opsi untuk menghitung token:

Memeriksa jumlah token untuk permintaan Anda saja (sebelum mengirimkannya ke model).
Panggil countTokens dengan input permintaan sebelum mengirimkannya ke model. Tindakan ini akan menampilkan:
  • total_tokens: jumlah token input saja
Periksa jumlah token untuk permintaan dan respons Anda.
Akses atribut usageMetadata pada objek respons. Hal ini mencakup:
  • prompt_token_count: jumlah token input saja
  • candidates_token_count: jumlah token output saja (tidak termasuk token penalaran)
  • thoughts_token_count: jumlah token dari token penalaran apa pun yang digunakan untuk menghasilkan respons
  • total_token_count: jumlah total token untuk input dan output (termasuk token penalaran)

Saat melakukan streaming output, atribut usageMetadata hanya muncul di bagian terakhir streaming. Nilainya adalah nil untuk gugus perantara.

Perhatikan poin-poin berikut tentang opsi di atas:

  • Metrik ini tidak akan menghitung jumlah gambar input atau jumlah detik dalam file input video atau audio. Namun, jumlah token untuk setiap modalitas ini akan berkorelasi dengan nilai tersebut.
  • Jumlah token input mencakup perintah (teks dan file input apa pun) serta petunjuk dan alat sistem apa pun.
  • Jumlah token output tidak menyertakan token penalaran; token tersebut disediakan di kolom terpisah.
  • Tinjau informasi tambahan khusus untuk setiap jenis permintaan di bagian selanjutnya di halaman ini.
  • Model Gemini Live API tidak mendukung countTokens. Selain itu, Firebase AI Logic belum mendukung atribut usageMetadata tersebut dalam respons dari model Live API, tetapi akan segera hadir.

Harga untuk opsi ini

  • Memanggil countTokens: Tidak ada biaya untuk memanggil countTokens (Count Tokens API). Kuota maksimum untuk Count Tokens API adalah 3.000 permintaan per menit (RPM).

  • Menggunakan atribut usageMetadata: Atribut ini selalu ditampilkan sebagai bagian dari respons dan tidak dikenai token atau biaya apa pun.

Informasi tambahan

Berikut beberapa informasi tambahan saat menangani jenis permintaan tertentu.

Menghitung token input teks

Tidak ada informasi tambahan.

Menghitung token multi-turn (chat)

Perhatikan hal-hal berikut untuk memanggil countTokens saat menggunakan chat:

  • Jika Anda memanggil countTokens dengan histori chat, tindakan ini akan menampilkan jumlah total token dari kedua peran dalam chat (total_tokens).
  • Untuk memahami seberapa besar giliran percakapan Anda berikutnya, Anda perlu menambahkannya ke histori saat memanggil countTokens.

Menghitung token input multimodal

Perhatikan poin-poin berikut tentang penghitungan token dengan input multimodal:

  • Jika ingin, Anda dapat memanggil countTokens pada teks dan file secara terpisah.
  • Untuk kedua opsi penghitungan token, Anda akan mendapatkan jumlah token yang sama, baik Anda menyediakan file sebagai data inline maupun menggunakan URL-nya.

File input gambar

File input gambar dikonversi menjadi token berdasarkan dimensinya:

  • Input gambar dengan kedua dimensi kurang dari atau sama dengan 384 piksel: setiap gambar dihitung sebagai 258 token.
  • Input gambar yang lebih besar dalam satu atau kedua dimensi: setiap gambar dipangkas dan diskalakan sesuai kebutuhan menjadi ubin berukuran 768x768 piksel, lalu setiap ubin dihitung sebagai 258 token.

File input video dan audio

File input video dan audio dikonversi menjadi token dengan tarif tetap berikut:

  • Video: 263 token per detik
  • Audio: 32 token per detik

File input dokumen (seperti PDF)

File input PDF diperlakukan sebagai gambar, sehingga setiap halaman PDF ditokenisasi dengan cara yang sama seperti gambar.