|
Klicken Sie auf Ihren Gemini API-Anbieter, um anbieterspezifische Inhalte und Code auf dieser Seite aufzurufen. |
Ratenbegrenzungen (allgemein als Kontingente bezeichnet) regeln die Anzahl der Anfragen, die Sie innerhalb eines bestimmten Zeitraums an die Gemini API senden können. Diese Limits tragen dazu bei, eine faire Nutzung zu gewährleisten, vor Missbrauch zu schützen und die Systemleistung für alle Nutzer aufrechtzuerhalten.
Wenn Sie Firebase AI Logic für den Zugriff auf Gemini-Modelle verwenden, hängen die Ratenbegrenzungen Ihres Projekts vom ausgewählten Gemini API-Anbieter ab. Firebase AI Logic bietet auch die Möglichkeit, Ratenbegrenzungen pro Nutzer festzulegen.
Ratenlimits für Gemini Developer API ansehen
Wenn Sie Ihr Kontingent überschreiten oder die Kapazität für das Modell, auf das Sie zugreifen, erschöpft ist, erhalten Sie die Fehlermeldung 429.
So funktionieren Ratenbegrenzungen (Kontingente)
Ratenbegrenzungen (Kontingente) werden anhand von vier Dimensionen gemessen:
- Anfragen pro Minute (RPM)
- Anfragen pro Tag (Requests Per Day, RPD)
- Tokens pro Minute (TPM)
- Tokens pro Tag (TPD)
Ihre Nutzung wird anhand der einzelnen Limits bewertet. Wenn Sie eines davon überschreiten, wird der Fehler „429 – Kontingent überschritten“ ausgelöst. Wenn Ihr RPM-Limit beispielsweise 20 beträgt, führt das Senden von 21 Anfragen innerhalb einer Minute zu einem Fehler, auch wenn Sie Ihr TPM- oder andere Limits nicht überschritten haben.
Ratenbegrenzungen werden auf Projektebene angewendet und gelten für alle Anwendungen und IP-Adressen, die dieses Firebase-Projekt verwenden.
Die Limits variieren je nach verwendetem Modell und einige Limits gelten nur für bestimmte Modelle.
Für experimentelle Modelle und Vorabversionen gelten strengere Ratenbegrenzungen.
Erhöhung des Ratenlimits beantragen
Wenn Sie eine kostenpflichtige Stufe für die Gemini Developer API verwenden, können Sie eine Erhöhung des Ratenlimits beantragen.
Ratenlimits pro Nutzer festlegen
Wenn Sie Firebase AI Logic verwenden möchten, muss der von Ihnen ausgewählte Gemini API-Anbieter für Ihr Projekt aktiviert sein. Außerdem muss die Firebase AI Logic API aktiviert sein, die als Gateway zwischen unseren Client-SDKs und Ihrem Gemini API-Anbieter fungiert. Diese API wird für Sie aktiviert, wenn Sie Firebase AI Logic zum ersten Mal in Ihrem Firebase-Projekt einrichten.
Sie können das Firebase AI Logic API-Ratenlimit (Kontingent) als Ratenbegrenzung pro Nutzer für Ihre App verwenden, insbesondere für die KI-Funktionen, die auf Firebase AI Logic basieren. Sie sollten dieses Limit so festlegen, dass ein einzelner Nutzer Ihre KI-Funktionen angemessen nutzen kann, aber gleichzeitig sichergestellt ist, dass kein einzelner Nutzer die Limits Ihres Gemini API-Anbieters überschreitet (der von allen Ihren Nutzern gemeinsam genutzt werden soll).
Details zum Ratenlimit „pro Nutzer“
Hier sind einige wichtige Details zu den Ratenbegrenzungen (Kontingenten) der Firebase AI Logic API, insbesondere zu den Anfragen pro Minute (RPM):
Es basiert auf „Anfragen zum Generieren von Inhalten“ pro Nutzer, Region und Minute und nicht auf dem Modell.
Das ist die Ratenbegrenzung, die für alle Nutzer gilt. Derzeit ist es nicht möglich, die Ratenbegrenzung für einen bestimmten Nutzer oder eine bestimmte Nutzergruppe festzulegen*.
Sie gilt auf Projektebene und für alle Anwendungen und IP-Adressen, die dieses Firebase-Projekt verwenden.
Sie gilt für alle Aufrufe, die speziell von einem Firebase AI Logic-SDK stammen.
Das Standard-Ratenlimit beträgt 100 Anfragen pro Minute und Nutzer.
Beachten Sie, dass Sie weiterhin die Limits für Ihren Gemini API-Anbieter berücksichtigen müssen (siehe oben), die Vorrang vor der Firebase AI Logic API haben.
* Wenn Sie die Agent Platform Gemini API (formerly Vertex AI) verwenden und Ihre App Nutzer in verschiedene Regionen weiterleitet (z. B. mit Firebase Remote Config), können Sie ein bestimmtes Ratenlimit für Nutzer in einer bestimmten Region festlegen.
Ratenlimit pro Nutzer anpassen
Wenn Sie eine Ratenbegrenzung (Kontingent) anpassen möchten, benötigen Sie die Berechtigung serviceusage.quotas.update, die standardmäßig in den Rollen „Inhaber“ und „Bearbeiter“ enthalten ist.
So können Sie die Ratenbegrenzung (Kontingent) bearbeiten oder eine Erhöhung beantragen:
Rufen Sie in der Google Cloud Console die Seite für die Firebase AI Logic API auf.
Klicken Sie auf Verwalten.
Klicken Sie weiter unten auf der Seite auf den Tab Kontingente und Systemlimits.
Filtern Sie die Tabelle, um die gewünschten Kontingente anzuzeigen, z. B. die Funktion (Anfragen zum Generieren von Inhalten) und die Region.
Wenn Sie beispielsweise die Kontingente pro Nutzer für Anfragen zur Inhaltsgenerierung in einer der unterstützten asiatischen Regionen aufrufen möchten, sieht Ihr Filter so aus:
Generate content requests+Dimension:region:asiaKlicken Sie das Kästchen links neben jedem Kontingent an, das Sie interessiert.
Klicken Sie am Ende der Zeile des Kontingents auf und wählen Sie dann Kontingent bearbeiten aus.
Gehen Sie im Formular Kontingentänderungen so vor:
Geben Sie das erhöhte Kontingent in das Feld Neuer Wert ein.
Dieses Kontingent gilt auf Projektebene und wird von allen Anwendungen und IP-Adressen geteilt, die dieses Firebase-Projekt verwenden.
Füllen Sie die zusätzlichen Felder im Formular aus und klicken Sie dann auf Fertig.
Klicken Sie auf Anfrage senden.