מודלים של AI גנרטיבי (כמו המודלים של Gemini) מפרקים את הנתונים ליחידות שנקראות אסימונים לצורך עיבוד. לכל מודל של Gemini יש מספר אסימונים מקסימלי שהוא יכול לטפל בהם בהנחיה ובתגובה.
בדף הזה מוסבר איך לקבל אומדן של מספר האסימונים ומספר התווים שניתנים לחיוב בבקשה.
איזה מידע מוצג בספירה?
חשוב לשים לב לנקודות הבאות לגבי ספירת אסימונים ותווים לחיוב:
ספירת מספר האסימונים הכולל
הספירה הזו עוזרת לוודא שהבקשות לא חורגות מחלון ההקשר המותר.
מספר האסימונים ישקף את הגודל של כל הקבצים (לדוגמה, תמונות) שסופקו כחלק מהקלט של הבקשה. המערכת לא תספור את מספר התמונות או את מספר השניות בסרטון.
בכל המודלים של Gemini, אסימון שווה ערך לכ-4 תווים. 100 אסימונים מכילים בין 60 ל-80 מילים באנגלית.
ספירת סך כל התווים לחיוב
המספר הזה עוזר לכם להבין את העלויות ולשלוט בהן, כי מספר התווים הוא חלק מחישובי התמחור של Vertex AI.
מספר התווים לחיוב ישקף את מספר התווים בטקסט שסופק כחלק מהקלט של הבקשה.
עבור Vertex AI, אסימונים הם לא חלק מחישוב התמחור. מידע נוסף על מגבלות האסימונים לכל מודל ומידע נוסף על התמחור לכל מודל
תמחור ומכסה לספירת אסימונים ותווים לחיוב
אין חיוב או הגבלת מכסות על השימוש ב-API של CountTokens. המכסה המקסימלית של API CountTokens היא 3,000 בקשות לדקה.