|
Klik penyedia Gemini API untuk melihat konten dan kode khusus penyedia di halaman ini. |
Pembatasan kapasitas (biasanya disebut kuota) mengatur jumlah permintaan yang dapat Anda buat ke Gemini API dalam jangka waktu tertentu. Batasan ini membantu memastikan penggunaan yang adil, melindungi dari penyalahgunaan, dan membantu menjaga performa sistem untuk semua pengguna.
Saat menggunakan Firebase AI Logic untuk mengakses model Gemini, batas kapasitas project Anda bergantung pada penyedia Gemini API yang Anda pilih. Firebase AI Logic juga menyediakan cara untuk menetapkan pembatasan kapasitas "per pengguna".
Lihat batas kapasitas untuk Gemini Developer API
Jika Anda melebihi kuota atau jika kapasitas untuk model yang Anda akses habis, Anda akan mendapatkan pesan error 429.
Cara kerja pembatasan kapasitas (kuota)
Batas kapasitas (kuota) diukur dalam empat dimensi:
- Permintaan per menit (RPM)
- Permintaan per hari (RPD)
- Token per menit (TPM)
- Token per hari (TPD)
Penggunaan Anda dievaluasi berdasarkan setiap batas, dan jika melebihi salah satu batas tersebut, error kuota terlampaui 429 akan dipicu. Misalnya, jika batas RPM Anda adalah 20, membuat 21 permintaan dalam satu menit akan menghasilkan error, meskipun Anda belum melampaui batas TPM atau batas lainnya.
Pembatasan kapasitas diterapkan di level project dan berlaku untuk semua aplikasi dan alamat IP yang menggunakan project Firebase tersebut.
Batas bervariasi bergantung pada model spesifik yang digunakan, dan beberapa batas hanya berlaku untuk model tertentu.
Batas kapasitas lebih dibatasi untuk model eksperimental dan pratinjau.
Meminta peningkatan batas kapasitas
Jika Anda menggunakan "paket berbayar" untuk Gemini Developer API, Anda dapat meminta peningkatan batas kapasitas.
Menetapkan batas kapasitas "per pengguna"
Untuk menggunakan Firebase AI Logic, project Anda harus mengaktifkan penyedia Gemini API yang Anda pilih, tetapi Anda juga harus mengaktifkan Firebase AI Logic API, yang bertindak sebagai gateway antara SDK klien kami dan penyedia Gemini API Anda. API ini diaktifkan untuk Anda saat Anda pertama kali menyiapkan Firebase AI Logic di project Firebase Anda.
Anda dapat menggunakan pembatasan kapasitas (kuota) API Firebase AI Logic sebagai batas kapasitas "per pengguna" untuk aplikasi Anda, khususnya untuk fitur AI yang mengandalkan Firebase AI Logic. Anda harus menetapkan batas ini untuk mengakomodasi secara wajar satu pengguna yang mengakses fitur AI Anda, sekaligus memastikan bahwa tidak ada satu pengguna pun yang membebani batas penyedia Gemini API Anda (yang dimaksudkan untuk digunakan bersama oleh semua pengguna Anda).
Detail tentang pembatasan kapasitas "per pengguna"
Berikut beberapa detail penting tentang pembatasan kapasitas (kuota) API Firebase AI Logic, khususnya, permintaan per menit (RPM):
Kuota ini didasarkan pada "Permintaan pembuatan konten" per pengguna per region per menit, dan tidak didasarkan pada model.
Ini adalah pembatasan kapasitas yang diterapkan ke semua pengguna Anda. Saat ini, tidak ada cara untuk menetapkan batas kapasitas bagi pengguna tertentu atau grup pengguna tertentu*.
Kebijakan ini berlaku di level project dan berlaku untuk semua aplikasi dan alamat IP yang menggunakan project Firebase tersebut.
Kebijakan ini berlaku untuk semua panggilan yang secara khusus berasal dari SDK Firebase AI Logic.
Batas kapasitas default adalah 100 RPM per pengguna.
Perhatikan bahwa Anda masih perlu mempertimbangkan batas untuk penyedia Gemini API (lihat di atas), yang lebih diutamakan daripada Firebase AI Logic API.
* Jika Anda menggunakan Agent Platform Gemini API (formerly Vertex AI) dan aplikasi Anda mengarahkan pengguna ke region yang berbeda (misalnya, menggunakan Firebase Remote Config), Anda dapat menetapkan pembatasan kapasitas tertentu untuk pengguna di region tertentu.
Menyesuaikan pembatasan kapasitas "per pengguna"
Untuk menyesuaikan pembatasan kapasitas (kuota), Anda harus memiliki izin serviceusage.quotas.update, yang disertakan secara default dalam peran Pemilik dan Editor.
Berikut cara mengedit batas kapasitas (kuota) atau meminta penambahan:
Di Google Cloud console, buka halaman untuk Firebase AI Logic API.
Klik Manage.
Di bagian bawah halaman, klik tab Quotas & System Limits.
Filter tabel untuk menampilkan kuota yang diinginkan, seperti kemampuan (permintaan untuk membuat konten) dan region.
Misalnya, untuk melihat kuota per pengguna untuk membuat permintaan konten di salah satu region Asia yang didukung, filter Anda akan terlihat seperti ini:
Generate content requests+Dimension:region:asiaPilih kotak centang di sebelah kiri setiap kuota yang diinginkan.
Di akhir baris kuota, klik , lalu pilih Edit quota.
Di formulir Quota changes, lakukan hal berikut:
Masukkan penambahan kuota di kolom New value.
Kuota ini berlaku di tingkat project dan digunakan bersama oleh semua aplikasi dan alamat IP yang menggunakan project Firebase tersebut.
Lengkapi kolom tambahan apa pun di formulir, lalu klik Selesai.
Klik Kirim permintaan.