Model AI generatif (seperti model Gemini) membagi data menjadi beberapa unit yang disebut token untuk diproses. Setiap model Gemini memiliki jumlah token maksimum yang dapat ditangani dalam perintah dan respons.
Halaman ini menunjukkan cara mendapatkan estimasi jumlah token dan jumlah karakter yang dapat ditagih untuk sebuah permintaan.
Informasi apa yang diberikan dalam jumlah tersebut?
Perhatikan hal-hal berikut tentang cara menghitung token dan karakter yang dapat ditagih:
Menghitung total token
Jumlah ini berguna untuk memastikan permintaan Anda tidak melampaui jendela konteks yang diizinkan.
Jumlah token akan mencerminkan size semua file (misalnya, gambar) yang disediakan sebagai bagian dari input request. Metrik ini tidak akan menghitung jumlah gambar atau jumlah detik dalam video.
Untuk semua model Gemini, token setara dengan sekitar 4 karakter. 100 token berisi sekitar 60-80 kata dalam bahasa Inggris.
Menghitung total karakter yang dapat ditagih
Jumlah ini berguna untuk memahami dan mengontrol biaya Anda, karena untuk Vertex AI, jumlah karakter adalah bagian dari penghitungan harga.
Jumlah karakter yang dapat ditagih akan mencerminkan jumlah karakter dalam text yang diberikan sebagai bagian dari input request.
Untuk Vertex AI, token bukan bagian dari penghitungan harga. Pelajari batas token per model dan harga per model lebih lanjut.
Harga dan kuota untuk menghitung token dan karakter yang dapat ditagih
Tidak ada biaya atau pembatasan kuota untuk menggunakan CountTokens API. Kuota maksimum untuk CountTokens API adalah 3.000 permintaan per menit.