|
Нажмите на название своего поставщика Gemini API, чтобы посмотреть контент и код, относящиеся к нему. |
Ограничения частоты запросов (обычно называемые квотами) регулируют количество запросов, которые вы можете отправить в Gemini API за определенный период времени. Эти ограничения помогают обеспечить справедливое использование, защитить от злоупотреблений и поддерживать производительность системы для всех пользователей.
При использовании Firebase AI Logic для доступа к моделям Gemini ограничения частоты запросов для проекта зависят от выбранного поставщика Gemini API. Firebase AI Logic также позволяет задавать ограничения частоты запросов для отдельных пользователей.
Ограничения частоты запросов для Gemini Developer API
Если вы превысите квоту или емкость модели, к которой вы обращаетесь, будет исчерпана, вы получите сообщение об ошибке 429.
Как работают ограничения частоты запросов (квоты)
Ограничения частоты запросов (квоты) измеряются по четырем параметрам:
- Запросы в минуту
- Запросы в день
- Токены в минуту (TPM)
- Токены в день
Если вы превысите любой из них, то получите ошибку 429. Например, если ваш лимит RPM равен 20, то выполнение 21 запроса в течение минуты приведет к ошибке, даже если вы не превысили лимит TPM или другие лимиты.
Ограничение частоты запросов применяется на уровне проекта и распространяется на все приложения и IP-адреса, которые используют этот проект Firebase.
Лимиты зависят от используемой модели, а некоторые из них применяются только к определенным моделям.
Для экспериментальных и предварительных версий моделей действуют более строгие ограничения частоты запросов.
Как запросить увеличение ограничения частоты запросов
Если вы используете платную версию Gemini Developer API, то можете запросить увеличение ограничения частоты запросов.
Как задать ограничения частоты запросов на уровне пользователя
Чтобы использовать Firebase AI Logic, в проекте нужно включить выбранного поставщика Gemini API, а также Firebase AI Logic API, который выступает в качестве шлюза между нашими клиентскими SDK и вашим поставщиком Gemini API. Этот API включается при первоначальной настройке Firebase AI Logic в проекте Firebase.
Вы можете использовать ограничение частоты запросов (квоту) API Firebase AI Logic как ограничение частоты запросов для каждого пользователя в вашем приложении, в частности для ИИ-функций, которые используют Firebase AI Logic. Установите лимит, который позволит одному пользователю получить доступ к вашим ИИ-функциям, но при этом не превысит лимиты вашего поставщика Gemini API (который должен быть общим для всех ваших пользователей).
Подробные сведения об ограничении частоты запросов для одного пользователя
Ниже приведены важные сведения об ограничениях частоты запросов (квотах) API Firebase AI Logic, в частности о количестве запросов в минуту.
Оно основано на количестве запросов на генерацию контента в минуту на пользователя в регионе и не зависит от модели.
Это ограничение частоты запросов применяется ко всем пользователям. В настоящее время задать ограничение частоты запросов для определенного пользователя или группы пользователей нельзя*.
Оно действует на уровне проекта и применяется ко всем приложениям и IP-адресам, которые используют этот проект Firebase.
Это относится к любым вызовам, которые поступают из SDK Firebase AI Logic.
По умолчанию ограничение частоты запросов составляет 100 запросов в минуту на пользователя.
Обратите внимание, что вам по-прежнему нужно учитывать ограничения поставщика Gemini API (см. выше), которые имеют приоритет над Firebase AI Logic API.
* Если вы используете Agent Platform Gemini API (formerly Vertex AI) и ваше приложение направляет пользователей в разные регионы (например, с помощью Firebase Remote Config), вы можете установить определенное ограничение частоты запросов для пользователей в определенном регионе.
Как изменить ограничение на количество сообщений для одного пользователя
Чтобы изменить ограничение частоты запросов (квоту), у вас должно быть разрешение serviceusage.quotas.update, которое по умолчанию есть у владельца и редактора.
Чтобы изменить ограничение частоты запросов (квоту) или запросить ее увеличение, выполните следующие действия:
В консоли Google Cloud перейдите на страницу Firebase AI Logic API.
Нажмите Управление.
В нижней части страницы нажмите на вкладку Квоты и системные ограничения.
Отфильтруйте таблицу, чтобы увидеть нужные квоты, например по возможностям (запросы на создание контента) и региону.
Например, чтобы посмотреть квоты на одного пользователя для создания запросов контента в любом из поддерживаемых азиатских регионов, фильтр будет выглядеть примерно так:
Generate content requests+Dimension:region:asiaУстановите флажок слева от каждой нужной квоты.
В конце строки квоты нажмите на значок и выберите Изменить квоту.
В форме Quota changes (Изменения квот) выполните следующие действия:
В поле Новое значение введите увеличенную квоту.
Эта квота применяется на уровне проекта и является общей для всех приложений и IP-адресов, использующих этот проект Firebase.
Заполните дополнительные поля в форме и нажмите Готово.
Нажмите Отправить запрос.