מכסות ומגבלות קצב

לוחצים על הספק Gemini API כדי לראות בדף הזה תוכן וקוד שספציפיים לספק.


הגבלות על קצב שליחת בקשות (שנקראות בדרך כלל מכסות) קובעות את מספר הבקשות שאפשר לשלוח אל Gemini API בפרק זמן נתון. המגבלות האלה עוזרות לנו לוודא שימוש הוגן, להגן מפני ניצול לרעה ולשמור על ביצועי המערכת לכל המשתמשים.

כשמשתמשים ב-Firebase AI Logic כדי לגשת למודלים של Gemini, מגבלות הקצב של הפרויקט תלויות בספק Gemini API שנבחר. ‫Firebase AI Logic מספקת גם דרך להגדיר הגבלות קצב לכל משתמש.

הצגת מגבלות התעריפים של Gemini Developer API

אם חורגים מהמכסה או אם נפח הקיבולת של המודל שאליו ניגשים מוצה, תוצג הודעת שגיאה 429.

הסבר על מגבלות קצב (מכסות)

מגבלות התעריף (מכסות) נמדדות לפי ארבעה מאפיינים:

  • בקשות לדקה (RPM)
  • בקשות ביום (RPD)
  • טוקנים לדקה (TPM)
  • טוקנים ביום (TPD)

השימוש שלכם נבדק מול כל מגבלה, וחריגה מכל אחת מהן תגרום לשגיאה 429 (חריגה מהמכסה). לדוגמה, אם מגבלת ה-RPM היא 20, שליחת 21 בקשות בתוך דקה תגרום לשגיאה, גם אם לא חרגתם ממגבלת ה-TPM או ממגבלות אחרות.

הגבלות הקצב חלות ברמת הפרויקט ורלוונטיות לכל האפליקציות וכתובות ה-IP שמשתמשות בפרויקט Firebase הזה.

המגבלות משתנות בהתאם למודל הספציפי שבו משתמשים, וחלק מהמגבלות חלות רק על מודלים ספציפיים.

הגבלת קצב של יצירת בקשות מוגבלת יותר במודלים ניסיוניים ובמודלים בגרסת טרום-השקה (Preview).

בקשה להגדלת מגבלת הקצב

אם אתם משתמשים ב-Gemini Developer API בתוכנית בתשלום, אתם יכולים לבקש להגדיל את מגבלת קצב הבקשות.

הגדרת הגבלות קצב 'לכל משתמש'

כדי להשתמש ב-Firebase AI Logic, צריך להפעיל בפרויקט את ספק Gemini API שבחרתם, אבל צריך גם להפעיל את Firebase AI Logic API, שמשמש כשער בין ערכות ה-SDK של הלקוח לבין ספק Gemini API. ה-API הזה מופעל בשבילכם כשמגדירים את Firebase AI Logic בפרויקט Firebase.

אתם יכולים להשתמש במכסה של הגבלת קצב של יצירת בקשות (quota) של Firebase AI Logic API כהגבלה על קצב שליחת הבקשות 'לכל משתמש' באפליקציה שלכם, במיוחד לתכונות ה-AI שמסתמכות על Firebase AI Logic. מומלץ להגדיר את המגבלה הזו כך שתאפשר למשתמש יחיד לגשת לתכונות ה-AI, וגם תבטיח שאף משתמש לא יחרוג מהמגבלות של ספק Gemini API (שמיועד לשיתוף בין כל המשתמשים).

פרטים על הגבלת קצב של יצירת בקשות 'לכל משתמש'

אלה כמה פרטים חשובים על הגבלת קצב של יצירת בקשות (מכסות) של Firebase AI Logic API – במיוחד, בקשות לדקה (RPM):

  • הוא מבוסס על 'יצירת בקשות לתוכן' על בסיס משתמש, אזור ודקה, והוא לא מבוסס על מודל.

  • זוהי מגבלת הקצב שחלה על כל המשתמשים שלכם. בשלב הזה, אין אפשרות להגדיר את מגבלת הקצב למשתמש ספציפי או לקבוצה ספציפית של משתמשים*.

  • היא חלה ברמת הפרויקט ועל כל האפליקציות וכתובות ה-IP שמשתמשות בפרויקט Firebase הזה.

  • הוא חל על כל שיחה שמגיעה ספציפית מכל SDK של Firebase AI Logic.

  • הגבלת קצב ברירת המחדל היא 100 בקשות לדקה לכל משתמש.
    חשוב לזכור שעדיין צריך להתחשב במגבלות של ספק Gemini API (שמפורטות למעלה), שמקבלות עדיפות על פני Firebase AI Logic API.

* אם אתם משתמשים ב-Agent Platform Gemini API (formerly Vertex AI) והאפליקציה שלכם מפנה משתמשים לאזורים שונים (לדוגמה, באמצעות Firebase Remote Config), תוכלו להגדיר הגבלת קצב של יצירת בקשות ספציפית למשתמשים באזור מסוים.

שינוי הגבלת קצב של יצירת בקשות לכל משתמש

כדי לשנות את הגבלת קצב של יצירת בקשות (מכסה), צריכה להיות לכם ההרשאה serviceusage.quotas.update, שכלולה כברירת מחדל בתפקידים 'בעלים' ו'עריכה'.

כדי לערוך את מגבלת הקצב (המכסה) או לבקש להגדיל אותה:

  1. במסוף Google Cloud, עוברים לדף של Firebase AI Logic API.

  2. לוחצים על ניהול.

  3. בחלק התחתון של הדף, לוחצים על הכרטיסייה Quotas & System Limits (מכסות ומגבלות מערכת).

  4. מסננים את הטבלה כדי להציג את המכסות הרלוונטיות, כמו היכולת (בקשות ליצירת תוכן) והאזור.

    לדוגמה, כדי לראות את המכסות לכל משתמש ליצירת בקשות לתוכן בכל אחד מהאזורים הנתמכים באסיה, המסנן ייראה כך: Generate content requests + Dimension:region:asia

  5. מסמנים את התיבה שמשמאל לכל מכסה שרוצים לראות.

  6. בסוף השורה של המכסה, לוחצים על ואז על עריכת המכסה.

  7. בטופס Quota changes (שינויים במכסת השימוש), מבצעים את הפעולות הבאות:

    1. בשדה ערך חדש, מזינים את המכסה המוגדלת.

      המכסה הזו חלה ברמת הפרויקט ומשותפת לכל האפליקציות וכתובות ה-IP שמשתמשות בפרויקט Firebase הזה.

    2. ממלאים את שאר השדות בטופס ולוחצים על Done.

    3. לוחצים על Submit request.