|
Нажмите на поставщика Gemini API, чтобы посмотреть контент и код, относящиеся к нему. |
Ограничение частоты запросов (обычно называемое квотами) регулирует количество запросов, которые вы можете отправлять в Gemini API за определенный период времени. Эти ограничения помогают обеспечить справедливое использование, защитить от злоупотреблений и поддерживать производительность системы для всех пользователей.
При использовании Firebase AI Logic для доступа к моделям Gemini ограничения частоты запросов проекта зависят от выбранного поставщика Gemini API. Firebase AI Logic также позволяет устанавливать ограничения частоты запросов для каждого пользователя.
Посмотреть ограничения на количество запросов для Gemini Developer API
Если вы превысите квоту или модель, к которой вы обращаетесь, будет перегружена, вы получите сообщение об ошибке 429.
Как работают ограничения частоты запросов (квоты)
Ограничения частоты запросов (квоты) измеряются по четырем параметрам:
- Запросы в минуту
- Запросы в день
- Токенов в минуту (TPM)
- Токенов в день (TPD)
Ваше использование оценивается по каждому лимиту, и превышение любого из них приведет к ошибке 429 (квота превышена). Например, если ограничение RPM составляет 20, то при отправке 21 запроса в течение минуты возникнет ошибка, даже если вы не превысили ограничение TPM или другие лимиты.
Ограничения частоты запросов применяются на уровне проекта и распространяются на все приложения и IP-адреса, использующие этот проект Firebase.
Лимиты зависят от используемой модели. Некоторые лимиты применяются только к определенным моделям.
Для экспериментальных и предварительных моделей действуют более строгие ограничения на количество запросов.
Как запросить увеличение лимита на количество запросов
Если вы используете платный тарифный план Gemini Developer API, то можете запросить увеличение ограничения частоты запросов.
Как задать ограничения частоты запросов для каждого пользователя
Чтобы использовать Firebase AI Logic, в вашем проекте должен быть включен выбранный вами поставщик Gemini API, а также Firebase AI Logic API, который действует как шлюз между нашими клиентскими SDK и вашим поставщиком Gemini API. Этот API включается автоматически при первоначальной настройке Firebase AI Logic в проекте Firebase.
Вы можете использовать ограничение частоты запросов (квоту) API Firebase AI Logic в качестве ограничения частоты запросов "на пользователя" для вашего приложения, особенно для ИИ-функций, которые полагаются на Firebase AI Logic. Вам следует установить этот лимит таким образом, чтобы один пользователь мог без проблем использовать ИИ-функции, но при этом не превышал лимиты поставщика Gemini API (который предназначен для всех ваших пользователей).
Подробная информация об ограничении частоты запросов для одного пользователя
Ниже приведена важная информация об ограничении частоты запросов (квотах) для Firebase AI Logic API, в частности о количестве запросов в минуту (RPM).
Ограничение основано на количестве запросов на создание контента в минуту на пользователя и регион и не зависит от модели.
Это ограничение частоты запросов применяется ко всем вашим пользователям. В настоящее время нет возможности задать ограничение частоты запросов для определенного пользователя или группы пользователей*.
Она применяется на уровне проекта и распространяется на все приложения и IP-адреса, использующие этот проект Firebase.
Он применяется к любому вызову, который поступает из любого пакета SDK Firebase AI Logic.
По умолчанию для каждого пользователя установлено ограничение частоты запросов в 100 запросов в минуту.
Обратите внимание, что вам по-прежнему нужно учитывать ограничения, установленные вашим поставщиком Gemini API (см. выше), поскольку они имеют приоритет над ограничениями Firebase AI Logic API.
* Если вы используете Agent Platform Gemini API (formerly Vertex AI) и ваше приложение перенаправляет пользователей в разные регионы (например, с помощью Firebase Remote Config), вы можете задать определенное ограничение частоты запросов для пользователей из определенного региона.
Как изменить ограничение на количество запросов для одного пользователя
Чтобы изменить ограничение частоты запросов (квоту), вам нужно разрешение serviceusage.quotas.update, которое по умолчанию есть у владельца и редактора.
Чтобы изменить ограничение частоты запросов (квоту) или запросить ее увеличение, выполните следующие действия:
В консоли Google Cloud перейдите на страницу Firebase AI Logic API.
Нажмите Управление.
В нижней части страницы нажмите на вкладку Квоты и системные ограничения.
Отфильтруйте таблицу, чтобы посмотреть нужные квоты, например на возможность (запросы на создание контента) и регион.
Например, чтобы посмотреть квоты на запросы контента для каждого пользователя в любом из поддерживаемых регионов Азии, используйте следующий фильтр:
Generate content requests+Dimension:region:asiaУстановите флажок слева от каждой квоты, которая вас интересует.
В конце строки квоты нажмите на значок с тремя точками и выберите Изменить квоту.
В форме Изменение квоты выполните следующие действия:
Введите увеличенную квоту в поле Новое значение.
Эта квота применяется на уровне проекта и является общей для всех приложений и IP-адресов, использующих этот проект Firebase.
Заполните остальные поля формы и нажмите Готово.
Нажмите Отправить запрос.