|
Cliquez sur votre fournisseur Gemini API pour afficher le contenu et le code spécifiques au fournisseur sur cette page. |
Les limites de débit (communément appelées "quotas") régulent le nombre de requêtes que vous pouvez envoyer à Gemini API dans un délai donné. Ces limites permettent de garantir une utilisation équitable, de protéger contre les abus et de maintenir les performances du système pour tous les utilisateurs.
Lorsque vous utilisez Firebase AI Logic pour accéder aux modèles Gemini, les limites de débit de votre projet dépendent du fournisseur Gemini API que vous avez choisi. Firebase AI Logic permet également de définir des limites de débit par utilisateur.
Afficher les limites de débit pour Gemini Developer API
Si vous dépassez votre quota ou si la capacité du modèle auquel vous accédez est épuisée, vous recevrez un message d'erreur 429.
Fonctionnement des limites de débit (quotas)
Les limites de débit (quotas) sont mesurées selon quatre dimensions :
- Requêtes par minute (RPM)
- Requêtes par jour (RPJ)
- Jetons par minute (TPM)
- Jetons par jour (TPD)
Votre utilisation est évaluée par rapport à chaque limite. Tout dépassement de l'une d'entre elles déclenche une erreur 429 de dépassement de quota. Par exemple, si votre limite de RPM est de 20, l'envoi de 21 requêtes en une minute entraînera une erreur, même si vous n'avez pas dépassé votre limite de TPM ou d'autres limites.
Les limites de débit sont appliquées au niveau du projet et s'appliquent à toutes les applications et adresses IP qui utilisent ce projet Firebase.
Les limites varient en fonction du modèle utilisé, et certaines ne s'appliquent qu'à des modèles spécifiques.
Les limites de débit sont plus strictes pour les modèles expérimentaux et en preview.
Demander une augmentation de la limite de débit
Si vous utilisez un "niveau payant " pour l'Gemini Developer API, vous pouvez demander une augmentation de la limite de débit.
Définir des limites de débit par utilisateur
Pour utiliser Firebase AI Logic, votre projet doit avoir activé le fournisseur Gemini API de votre choix, mais vous devez également activer l'API Firebase AI Logic, qui sert de passerelle entre nos SDK clients et votre fournisseur Gemini API. Cette API est activée pour vous lorsque vous configurez initialement Firebase AI Logic dans votre projet Firebase.
Vous pouvez utiliser la limite de débit (quota) de l'API Firebase AI Logic comme limite de débit "par utilisateur" pour votre application, en particulier pour les fonctionnalités d'IA qui s'appuient sur Firebase AI Logic. Vous devez définir cette limite de manière à ce qu'un seul utilisateur puisse accéder à vos fonctionnalités d'IA, tout en veillant à ce qu'aucun utilisateur ne dépasse les limites de votre fournisseur Gemini API (qui est censé être partagé par tous vos utilisateurs).
Détails sur la limitation du débit par utilisateur
Voici quelques informations importantes sur les limites de débit (quotas) de l'API Firebase AI Logic, en particulier les requêtes par minute (RPM) :
Il est basé sur les "requêtes de génération de contenu" par utilisateur, par région et par minute, et non sur le modèle.
Il s'agit de la limite de débit appliquée à tous vos utilisateurs. Actuellement, il n'est pas possible de définir la limitation du débit pour un utilisateur ou un groupe d'utilisateurs spécifique*.
Elle s'applique au niveau du projet et à toutes les applications et adresses IP qui utilisent ce projet Firebase.
Il s'applique à tout appel provenant spécifiquement d'un SDK Firebase AI Logic.
La limite de débit par défaut est de 100 RPM par utilisateur.
Notez que vous devez toujours tenir compte des limites de votre fournisseur Gemini API (voir ci-dessus), qui prévalent sur l'API Firebase AI Logic.
* Si vous utilisez Agent Platform Gemini API (formerly Vertex AI) et que votre application dirige les utilisateurs vers différentes régions (par exemple, à l'aide de Firebase Remote Config), vous pouvez définir une limite de débit spécifique pour les utilisateurs d'une région donnée.
Ajuster la limite de débit par utilisateur
Pour ajuster une limite de débit (quota), vous devez disposer de l'autorisation serviceusage.quotas.update, qui est incluse par défaut dans les rôles "Propriétaire" et "Éditeur".
Pour modifier votre limite de débit (quota) ou demander une augmentation, procédez comme suit :
Dans la console Google Cloud, accédez à la page de l'API Firebase AI Logic.
Cliquez sur Gérer.
Plus bas sur la page, cliquez sur l'onglet Quotas et limites du système.
Filtrez le tableau pour afficher les quotas qui vous intéressent, comme la capacité (requêtes de génération de contenu) et la région.
Par exemple, pour afficher les quotas par utilisateur pour les requêtes de génération de contenu dans l'une des régions asiatiques compatibles, votre filtre ressemblerait à ceci :
Generate content requests+Dimension:region:asiaCochez la case située à gauche de chaque quota qui vous intéresse.
Au bout de la ligne du quota, cliquez sur , puis sélectionnez Modifier le quota.
Dans le formulaire Modifications de quotas, procédez comme suit :
Saisissez le quota augmenté dans le champ Nouvelle valeur.
Ce quota s'applique au niveau du projet et est partagé entre toutes les applications et adresses IP qui utilisent ce projet Firebase.
Renseignez tous les champs supplémentaires du formulaire, puis cliquez sur OK.
Cliquez sur Envoyer la requête.