|
Gemini API プロバイダをクリックして、このページでプロバイダ固有のコンテンツとコードを表示します。 |
レート制限(一般に割り当てと呼ばれます)は、特定の期間内に Gemini API に対して行うことができるリクエストの数を制限します。これらの上限は、公正な使用を確保し、不正行為から保護し、すべてのユーザーのシステム パフォーマンスを維持するのに役立ちます。
Firebase AI Logic を使用して Gemini モデルにアクセスする場合、プロジェクトのレート制限は、選択した Gemini API プロバイダによって異なります。Firebase AI Logic には、「ユーザーごと」のレート制限を設定する方法も用意されています。
Gemini Developer API のレート制限を表示する
割り当てを超過した場合、またはアクセスしているモデルの容量が不足している場合は、429 エラー メッセージが表示されます。
レート制限(割り当て)の仕組み
レート制限(割り当て)は、次の 4 つのディメンションで測定されます。
- 1 分あたりのリクエスト数(RPM)
- 1 日あたりのリクエスト数(RPD)
- 1 分あたりのトークン数(TPM)
- 1 日あたりのトークン数(TPD)
使用量は各上限に照らして評価され、いずれかの上限を超えると 429 割り当て超過エラーがトリガーされます。たとえば、RPM の上限が 20 の場合、TPM などの上限を超えていなくても、1 分間に 21 件のリクエストを行うとエラーが発生します。
レート制限はプロジェクト レベルで適用され、その Firebase プロジェクトを使用するすべてのアプリケーションと IP アドレスに適用されます。
上限は使用するモデルによって異なります。また、一部の上限は特定のモデルにのみ適用されます。
試験運用版モデルとプレビュー版モデルでは、レート制限がより厳しくなります。
レート制限の引き上げをリクエストする
Gemini Developer API の「有料ティア」をご利用の場合は、レート制限の引き上げをリクエストできます。
「ユーザーごと」のレート制限を設定する
Firebase AI Logic を使用するには、プロジェクトで選択した Gemini API プロバイダを有効にする必要があります。また、クライアント SDK と Gemini API プロバイダ間のゲートウェイとして機能する Firebase AI Logic API も有効にする必要があります。この API は、Firebase プロジェクトで Firebase AI Logic を最初に設定したときに有効になります。
Firebase AI Logic API のレート制限(割り当て)を、アプリの「ユーザーごと」のレート制限として使用できます。特に、Firebase AI Logic に依存する AI 機能に適用できます。この上限は、1 人のユーザーが AI 機能にアクセスするのに十分な値に設定する必要があります。また、1 人のユーザーが Gemini API プロバイダの上限(すべてのユーザーで共有されることを想定)を超えないようにする必要があります。
「ユーザーごと」のレート制限の詳細
Firebase AI Logic API のレート制限(割り当て)、特に 1 分あたりのリクエスト数(RPM)に関する重要な詳細は次のとおりです。
これは、1 ユーザー、1 リージョン、1 分あたりの「コンテンツ生成リクエスト」に基づいており、モデルに基づいていません。
これは、すべてのユーザーに適用されるレート制限です。現在、特定のユーザーまたは特定のユーザー グループにレート制限を設定する方法はありません*。
これはプロジェクト レベルで適用され、その Firebase プロジェクトを使用するすべてのアプリケーションと IP アドレスに適用されます。
これは、Firebase AI Logic SDK からの呼び出しに適用されます。
デフォルトのレート制限は、ユーザーあたり 100 RPM です。
Firebase AI Logic API よりも優先される Gemini API プロバイダの上限(上記を参照)を考慮する必要があります。
* Agent Platform Gemini API (formerly Vertex AI) を使用していて、アプリがユーザーを異なるリージョンに転送する場合(Firebase Remote Config を使用する場合など)、特定のリージョンのユーザーに特定のレート制限を設定できます。
「ユーザーごと」のレート制限を調整する
レート制限(割り当て)を調整するには、serviceusage.quotas.update 権限が必要です。この権限は、オーナーロールと編集者ロールにデフォルトで含まれています。
レート制限(割り当て)を編集する方法、または引き上げをリクエストする方法は次のとおりです。
Google Cloud コンソールで、Firebase AI Logic API のページに移動します。
[管理] をクリックします。
ページの下部にある [割り当てとシステム上限] タブをクリックします。
テーブルをフィルタして、機能(コンテンツ生成のリクエスト)やリージョンなど、関心のある割り当てを表示します。
たとえば、サポートされているアジアのリージョンでコンテンツ生成リクエストのユーザーごとの割り当てを表示するには、フィルタは
のようになります。Generate content requests+Dimension:region:asia目的の各割り当ての左側にあるチェックボックスをオンにします。
割り当ての行の末尾にある をクリックし、[割り当てを編集] を選択します。
[割り当ての変更] フォームで、次の操作を行います。
[新しい値] フィールドに、引き上げ後の割り当てを入力します。
この割り当てはプロジェクト レベルで適用され、その Firebase プロジェクトを使用するすべてのアプリケーションと IP アドレスで共有されます。
フォームのその他のフィールドに入力して、[完了] をクリックします。
[リクエストを送信] をクリックします。