Model AI generatif (seperti model Gemini) mengelompokkan data ke dalam unit-unit yang disebut token untuk diproses. Setiap model Gemini memiliki jumlah token maksimum yang dapat ditanganinya dalam perintah dan respons.
Halaman ini menunjukkan cara mendapatkan estimasi jumlah token dan jumlah karakter yang dapat ditagih untuk permintaan.
Informasi apa yang diberikan dalam hitungan tersebut?
Perhatikan hal-hal berikut terkait penghitungan token dan karakter yang dapat ditagih:
Menghitung total token
Jumlah ini berguna untuk memastikan permintaan Anda tidak melewati jendela konteks yang diizinkan.
Jumlah token akan mencerminkan ukuran semua file (misalnya, gambar) yang disediakan sebagai bagian dari input request. Metode ini tidak akan menghitung jumlah gambar atau jumlah detik dalam video.
Untuk semua model Gemini, token setara dengan sekitar 4 karakter. 100 token adalah sekitar 60-80 kata dalam bahasa Inggris.
Menghitung total karakter yang dapat ditagih
Jumlah ini berguna untuk memahami dan mengontrol biaya Anda, karena untuk Vertex AI, jumlah karakter merupakan bagian dari penghitungan harga.
Jumlah karakter yang dapat ditagih akan mencerminkan jumlah karakter dalam teks yang disediakan sebagai bagian dari input request.
Untuk Vertex AI, token bukan bagian dari penghitungan harga. Pelajari batas token per model dan harga per model lebih lanjut.
Harga dan kuota untuk menghitung token dan karakter yang dapat ditagih
Tidak ada biaya atau pembatasan kuota untuk menggunakan CountTokens API. Kuota maksimum untuk CountTokens API adalah 3.000 permintaan per menit.