|
Fai clic sul tuo provider Gemini API per visualizzare i contenuti e il codice specifici del provider in questa pagina. |
I limiti di frequenza (comunemente chiamati quote) regolano il numero di richieste che puoi effettuare alla Gemini API entro un determinato periodo di tempo. Questi limiti contribuiscono a garantire un utilizzo equo, a proteggere dagli abusi e a mantenere le prestazioni del sistema per tutti gli utenti.
Quando utilizzi Firebase AI Logic per accedere ai modelli Gemini, i limiti di frequenza del tuo progetto dipendono dal provider Gemini API scelto. Firebase AI Logic offre anche un modo per impostare limiti di frequenza "per utente".
Visualizza i limiti di frequenza per Gemini Developer API
Se superi la quota o se la capacità del modello a cui accedi è esaurita, riceverai un messaggio di errore 429.
Come funzionano i limiti di frequenza (quote)
I limiti di frequenza (quote) vengono misurati in base a quattro dimensioni:
- Richieste al minuto (RPM)
- Richieste al giorno (RPD)
- Token al minuto (TPM)
- Token al giorno (TPD)
Il tuo utilizzo viene valutato in base a ciascun limite e il superamento di uno di questi attiverà un errore 429 di superamento della quota. Ad esempio, se il limite di RPM è 20, l'invio di 21 richieste entro un minuto genererà un errore, anche se non hai superato i limiti di TPM o altri limiti.
I limiti di frequenza vengono applicati a livello di progetto e si applicano a tutte le applicazioni e agli indirizzi IP che utilizzano il progetto Firebase.
I limiti variano a seconda del modello specifico in uso e alcuni limiti si applicano solo a modelli specifici.
I limiti di frequenza sono più restrittivi per i modelli sperimentali e in anteprima.
Richiedi un aumento del limite di frequenza
Se utilizzi un "livello a pagamento" per Gemini Developer API, puoi richiedere un aumento del limite di frequenza.
Imposta limiti di frequenza "per utente"
Per utilizzare Firebase AI Logic, il tuo progetto deve avere abilitato il provider Gemini API scelto, ma devi anche abilitare l'API Firebase AI Logic, che funge da gateway tra i nostri SDK client e il tuo provider Gemini API. Questa API viene attivata quando configuri inizialmente Firebase AI Logic nel tuo progetto Firebase.
Puoi utilizzare la limitazione di frequenza (quota) dell'API Firebase AI Logic come limitazione di frequenza "per utente" per la tua app, in particolare per le funzionalità di AI che si basano su Firebase AI Logic. Dovresti impostare questo limite in modo da consentire ragionevolmente a un singolo utente di accedere alle tue funzionalità di AI, assicurandoti al contempo che nessun singolo utente superi i limiti del tuo provider Gemini API (che deve essere condiviso da tutti i tuoi utenti).
Dettagli sul limite di frequenza "per utente"
Ecco alcuni dettagli importanti sui limiti di frequenza (quote) dell'API Firebase AI Logic, in particolare sulle richieste al minuto (RPM):
Si basa sulle "Richieste di generazione di contenuti" per utente, per regione e per minuto e non sul modello.
Si tratta del limite di frequenza applicato a tutti i tuoi utenti. Al momento non è possibile impostare il limite di frequenza per un utente o un gruppo di utenti specifico*.
Si applica a livello di progetto e a tutte le applicazioni e gli indirizzi IP che utilizzano il progetto Firebase.
Si applica a qualsiasi chiamata proveniente specificamente da un SDK Firebase AI Logic.
Il limite di frequenza predefinito è 100 RPM per utente.
Tieni presente che devi comunque considerare i limiti del tuo provider Gemini API (vedi sopra), che hanno la precedenza sull'API Firebase AI Logic.
* Se utilizzi Agent Platform Gemini API (formerly Vertex AI) e la tua app indirizza gli utenti a regioni diverse (ad esempio, utilizzando Firebase Remote Config), puoi impostare una limitazione di frequenza specifica per gli utenti di una regione specifica.
Modifica il limite di frequenza "per utente"
Per modificare un limite di frequenza (quota), devi disporre dell'autorizzazione serviceusage.quotas.update, che è inclusa per impostazione predefinita nel ruolo Proprietario ed Editor.
Ecco come modificare il limite di frequenza (quota) o richiedere un aumento:
Nella console Google Cloud, vai alla pagina dell'API Firebase AI Logic.
Fai clic su Gestisci.
Più in basso nella pagina, fai clic sulla scheda Quote e limiti di sistema.
Filtra la tabella per mostrare le quote di interesse, come la funzionalità (richieste di generazione di contenuti) e la regione.
Ad esempio, per visualizzare le quote per utente per la generazione di richieste di contenuti in una delle regioni asiatiche supportate, il filtro sarà simile al seguente:
Generate content requests+Dimension:region:asiaSeleziona la casella di controllo a sinistra di ogni quota di interesse.
Alla fine della riga della quota, fai clic su e poi seleziona Modifica quota.
Nel modulo Modifiche alla quota, segui questi passaggi:
Inserisci la quota aumentata nel campo Nuovo valore.
Questa quota si applica a livello di progetto ed è condivisa tra tutte le applicazioni e gli indirizzi IP che utilizzano il progetto Firebase.
Compila eventuali campi aggiuntivi nel modulo, poi fai clic su Fine.
Fai clic su Invia richiesta.