|
Bu sayfada sağlayıcıya özel içerikleri ve kodu görüntülemek için Gemini API sağlayıcınızı tıklayın. |
Sıklık sınırlamaları (genellikle kotalar olarak adlandırılır), belirli bir zaman aralığında Gemini API'ya yapabileceğiniz istek sayısını düzenler. Bu sınırlar, adil kullanımı sağlamaya, kötüye kullanıma karşı koruma sağlamaya ve tüm kullanıcılar için sistem performansını korumaya yardımcı olur.
Gemini modellerine erişmek için Firebase AI Logic'ı kullanırken projenizin sıklık sınırlamaları, seçtiğiniz Gemini API sağlayıcısına bağlıdır. Firebase AI Logic ayrıca "kullanıcı başına" sıklık sınırları belirlemenin bir yolunu da sunar.
Gemini Developer API için sıklık sınırlarını görüntüleme
Kotanızı aşarsanız veya eriştiğiniz modelin kapasitesi tükenirse 429 hata mesajı alırsınız.
Sıklık sınırlamalarının (kotaların) işleyiş şekli
Sıklık sınırlamaları (kotalar) dört boyutta ölçülür:
- Dakikadaki istek sayısı (RPM)
- Günlük istek sayısı (GİS)
- Dakikadaki jeton sayısı (TPM)
- Günlük jeton sayısı (TPD)
Kullanımınız her sınıra göre değerlendirilir ve herhangi bir sınırı aşmanız durumunda 429 kota aşıldı hatası tetiklenir. Örneğin, RPM sınırınız 20 ise TPM veya diğer sınırlarınızı aşmamış olsanız bile bir dakika içinde 21 istekte bulunursanız hata alırsınız.
Sıklık sınırlamaları proje düzeyinde uygulanır ve söz konusu Firebase projesini kullanan tüm uygulamalar ile IP adresleri için geçerlidir.
Sınırlar, kullanılan modele göre değişir ve bazı sınırlar yalnızca belirli modeller için geçerlidir.
Hız sınırları, deneysel ve önizleme modellerinde daha kısıtlıdır.
Sıklık sınırlaması artışı isteğinde bulunma
Gemini Developer API için "ücretli katmanda"ysanız sıklık sınırlaması artışı isteğinde bulunabilirsiniz.
Kullanıcı başına sıklık sınırlamaları belirleme
Firebase AI Logic kullanmak için projenizde seçtiğiniz Gemini API sağlayıcısının etkinleştirilmesi gerekir. Ayrıca, istemci SDK'larımız ile Gemini API sağlayıcınız arasında ağ geçidi görevi gören Firebase AI Logic API'sinin de etkinleştirilmesi gerekir. Bu API, Firebase projenizde Firebase AI Logic'ı ilk kez ayarladığınızda sizin için etkinleştirilir.
Firebase AI Logic API sıklık sınırlamasını (kota), özellikle Firebase AI Logic'a dayalı yapay zeka özellikleri için Firebase AI Logicuygulamanızın "kullanıcı başına" sıklık sınırlaması olarak kullanabilirsiniz. Bu sınırı, yapay zeka özelliklerinize erişen tek bir kullanıcının makul şekilde yararlanmasını sağlayacak ve aynı zamanda hiçbir kullanıcının Gemini API sağlayıcınızın (tüm kullanıcılarınız tarafından paylaşılması amaçlanan) sınırlarını aşmamasını sağlayacak şekilde ayarlamanız gerekir.
ayarlamanızı öneririz.Kullanıcı başına sıklık sınırlaması hakkında ayrıntılar
Firebase AI Logic API'siyle ilgili olarak bilmeniz gereken bazı önemli ayrıntılar aşağıda verilmiştir. Özellikle de sıklık sınırlamaları (kotalar) -- dakika başına istek sayısı (RPM) ile ilgili ayrıntılar:
Bu sınır, kullanıcı başına, bölge başına ve dakika başına "İçerik oluşturma istekleri"ne göre belirlenir ve modele göre belirlenmez.
Bu, tüm kullanıcılarınıza uygulanan sıklık sınırlamasıdır. Şu anda belirli bir kullanıcı veya belirli bir kullanıcı grubu için hız sınırını ayarlamanın bir yolu yoktur*.
Proje düzeyinde geçerli olan bu ayar, söz konusu Firebase projesini kullanan tüm uygulamalar ve IP adresleri için geçerlidir.
Özellikle herhangi bir Firebase AI Logic SDK'dan gelen tüm çağrılar için geçerlidir.
Varsayılan sıklık sınırı, kullanıcı başına 100 RPM'dir.
Gemini API sağlayıcınızın sınırlarını (yukarıya bakın) dikkate almanız gerektiğini unutmayın. Bu sınırlar, Firebase AI Logic API'den önceliklidir.
* Agent Platform Gemini API (formerly Vertex AI) kullanıyorsanız ve uygulamanız kullanıcıları farklı bölgelere yönlendiriyorsa (ör. Firebase Remote Config kullanılıyorsa) belirli bir bölgedeki kullanıcılar için belirli bir sıklık sınırlaması ayarlayabilirsiniz.
Kullanıcı başına sıklık sınırlamasını ayarlama
Bir sıklık sınırlamasını (kota) ayarlamak için serviceusage.quotas.update iznine sahip olmanız gerekir. Bu izin, varsayılan olarak Sahip ve Düzenleyici rollerine dahildir.
Sıklık sınırlamanızı (kotanızı) düzenleme veya artış isteğinde bulunma:
Google Cloud konsolunda Firebase AI Logic API'nin sayfasına gidin.
Yönet'i tıklayın.
Sayfanın alt kısmında Kotalar ve Sistem Sınırları sekmesini tıklayın.
Tabloyu, kapasite (içerik oluşturma istekleri) ve bölge gibi ilgilendiğiniz kotaları gösterecek şekilde filtreleyin.
Örneğin, desteklenen Asya bölgelerinden herhangi birinde içerik isteği oluşturmayla ilgili kullanıcı başına kotaları görüntülemek için filtreniz şu şekilde görünür:
Generate content requests+Dimension:region:asiaİlgilendiğiniz her kotanın solundaki onay kutusunu işaretleyin.
Kota satırının sonunda simgesini tıklayın ve Kotayı düzenle'yi seçin.
Kota değişiklikleri formunda aşağıdakileri yapın:
Artırılan kotayı Yeni değer alanına girin.
Bu kota proje düzeyinde geçerlidir ve söz konusu Firebase projesini kullanan tüm uygulamalar ve IP adresleri arasında paylaşılır.
Formdaki diğer alanları doldurun ve Bitti'yi tıklayın.
İstek gönder'i tıklayın.