ספירת טוקנים במודלים של Gemini

מודלים של Gemini מעבדים קלט ופלט ביחידות שנקראות טוקנים.

האסימונים יכולים להיות תווים בודדים כמו z או מילים שלמות כמו cat. מילים ארוכות מפוצלות לכמה טוקנים. קבוצת כל האסימונים שבהם נעשה שימוש במודל נקראת אוצר מילים, והתהליך של פיצול טקסט לאסימונים נקרא tokenization.

במודלים של Gemini, אסימון שווה בערך ל-4 תווים. ‫100 אסימונים שווים לכ-60-80 מילים באנגלית.

לכל מודל יש מספר מקסימלי של טוקנים שהוא יכול לטפל בהם בהנחיה ובתגובה. אם תדעו כמה טוקנים יש בהנחיה, תוכלו לדעת אם חרגתם מהמגבלה. בנוסף, העלות של בקשה נקבעת בחלקה לפי מספר האסימונים של הקלט והפלט, ולכן כדאי לדעת איך לספור אסימונים.

מודלים נתמכים

• gemini-3.1-pro-preview
• gemini-3-flash-preview
• gemini-3.1-flash-lite-preview
• gemini-3-pro-image-preview
• gemini-3.1-flash-image-preview
• gemini-2.5-pro
• gemini-2.5-flash
• gemini-2.5-flash-lite
• ‫gemini-2.0-flash-001 (וכתובת האימייל החלופית שלה שמתעדכנת אוטומטית gemini-2.0-flash)
• ‫gemini-2.0-flash-lite-001 (וכתובת האימייל החלופית שלה שמתעדכנת אוטומטית gemini-2.0-flash-lite)

אפשרויות לספירת טוקנים

כל הקלט והפלט של Gemini API עוברים טוקניזציה, כולל טקסט, קובצי תמונות וסוגים אחרים של נתונים שאינם טקסט. אלה האפשרויות לספירת טוקנים:

בודקים את מספר הטוקנים רק בבקשות (לפני ששולחים אותן למודל).

מתקשרים אל countTokens עם הקלט של הבקשה לפני ששולחים אותה למודל. הפונקציה מחזירה:

• ‫total_tokens: מספר האסימונים של הקלט בלבד

בודקים את מספר הטוקנים גם בבקשות וגם בתשובות.

ניגשים למאפיין usageMetadata באובייקט התגובה. הם כוללים:

• ‫prompt_token_count: מספר האסימונים של הקלט בלבד
• ‫candidates_token_count: מספר האסימונים של הפלט בלבד (לא כולל אסימונים של חשיבה)
• ‫thoughts_token_count: מספר האסימונים של אסימוני חשיבה ששימשו ליצירת התגובה
• ‫total_token_count: ספירה כוללת של האסימונים של הקלט ושל הפלט (כולל אסימונים של חשיבה)

כשמייצאים פלט סטרימינג, המאפיין usageMetadata מופיע רק בחלק האחרון של הסטרימינג. הערך הוא nil עבור חלקים ביניים.

חשוב לשים לב לנקודות הבאות לגבי האפשרויות שלמעלה:

• הם לא יספרו את מספר התמונות שמוזנות או את מספר השניות בקובצי אודיו או וידאו שמוזנים. עם זאת, מספר הטוקנים של כל אחד מהאופנים האלה יהיה קשור לערכים האלה.
• ספירת האסימונים של הקלט כוללת את ההנחיה (טקסט וכל קובץ קלט), וגם את כל ההוראות והכלים של המערכת.
• מספר האסימונים בפלט לא כולל אסימוני חשיבה, שמסופקים בשדה נפרד.
• בהמשך הדף מופיע מידע נוסף שספציפי לכל סוג של בקשה.
• מודלים של Gemini Live API לא תומכים ב-countTokens. בנוסף, Firebase AI Logic עדיין לא תומך במאפיין usageMetadata בתשובה ממודלים של Live API, אבל התמיכה הזו תהיה זמינה בקרוב.

תמחור האפשרויות האלה

• קריאה ל-countTokens: אין חיוב על קריאה ל-countTokens (ה-API של Count Tokens). המכסה המקסימלית של Count Tokens API היא 3,000 בקשות לדקה (RPM).

• שימוש במאפיין usageMetadata: המאפיין הזה תמיד מוחזר כחלק מהתשובה, ולא כרוך בשימוש בטוקנים או בחיוב.

מידע נוסף

הנה מידע נוסף על עבודה עם סוגים ספציפיים של בקשות.

ספירת טוקנים של קלט טקסט

אין מידע נוסף.

ספירת טוקנים של שיחות עם זיכרון

כשמתקשרים ב-countTokens באמצעות הצ'אט, חשוב לשים לב לנקודות הבאות:

• אם מתקשרים אל countTokens עם היסטוריית הצ'אט, הפונקציה מחזירה את המספר הכולל של הטוקנים משני התפקידים בצ'אט (total_tokens).
• כדי להבין מה יהיה גודל התגובה הבאה שלכם בשיחה, צריך לצרף אותה להיסטוריה כשמתקשרים אל countTokens.

ספירת טוקנים של קלט מרובה מצבים

חשוב לשים לב לנקודות הבאות לגבי ספירת טוקנים עם קלט רב-אופני:

• אפשר גם להתקשר אל countTokens בנפרד לגבי הטקסט והקובץ.
• בשתי האפשרויות לספירת טוקנים, תקבלו את אותו מספר טוקנים בין אם תספקו את הקובץ כנתונים מוטבעים או באמצעות כתובת ה-URL שלו.

קובצי קלט של תמונות

קבצים של תמונות קלט מומרים לטוקנים על סמך המידות שלהם:

• תשומות של תמונות עם שני הממדים קטנים מ-384 פיקסלים או שווים להן: כל תמונה נספרת כ-258 טוקנים.
• תמונות קלט שגדולות יותר באחד מהממדים או בשניהם: כל תמונה נחתכת ומשתנה לפי הצורך לאריחים בגודל 768x768 פיקסלים, ואז כל אריח נספר כ-258 טוקנים.

קובצי קלט של וידאו ואודיו

קובצי קלט של וידאו ואודיו מומרים לטוקנים בשיעורים הקבועים הבאים:

• סרטון: 263 טוקנים לשנייה
• אודיו: 32 טוקנים לשנייה

קובצי קלט של מסמכים (כמו קובצי PDF)

קובצי PDF שמוזנים מטופלים כתמונות, ולכן כל דף בקובץ PDF עובר המרה לטוקנים באותו אופן כמו תמונה.