קובצי קלט נתמכים ודרישות

כשמתקשרים אל Gemini API מהאפליקציה באמצעות Firebase AI Logic SDK, אפשר להנחות את מודל Gemini ליצור טקסט על סמך קלט רב-אופני, כמו תמונות, סרטונים, אודיו ומסמכים (כמו קובצי PDF).

צריך להשתמש בסוגי קבצים נתמכים, לציין סוג MIME נתמך ולוודא שהקבצים והבקשות הרב-מודאליות עומדים בדרישות ופועלים לפי שיטות מומלצות.

הדף הזה מתייחס ספציפית לשימוש ב-GenerativeModel ומתוארים בו הנושאים הבאים:

אפשרויות לשליחת קבצים בבקשות מולטימודאליות

בחירת ספק Gemini API כדי לראות תוכן שספציפי לספק בדף הזה

בכל בקשה מולטימודלית, תמיד צריך לספק את הפרטים הבאים:

הגודל ומספר הקבצים שאפשר לספק בבקשה נקבעים לפי סוג קובץ הקלט, האופן שבו מספקים את הקובץ והמודל שבו נעשה שימוש (פרטים מופיעים בקטע של כל סוג קובץ קלט בדף הזה).

אפשרות 1: ציון הקובץ כנתונים מוטבעים

חשוב לשים לב לנקודות הבאות לגבי קבצים שמוצגים כנתונים מוטבעים:

  • אפשר לשלוח רק קבצים קטנים כנתונים מוטבעים, כי הגודל המקסימלי של הבקשה הוא 20 MB.

  • הקובץ מקודד ל-base64 במהלך ההעברה (מה שמגדיל את גודל הקובץ).

דוגמה לאופן הוספת קובץ כנתונים מוטבעים מופיעה במאמר יצירת טקסט מקלט של טקסט וקובץ (מולטימודאלי). הערה: ערכות ה-SDK לפלטפורמות Android ו-Apple יכולות לטפל בתמונות מוטבעות בבקשות בלי לציין את סוג ה-MIME. למידע נוסף

אפשרות 2: שליחת הקובץ באמצעות כתובת URL

אלה סוגי כתובות ה-URL שאפשר להשתמש בהן בתג Gemini Developer API:

  • כתובת ה-URL של הסרטון ב-YouTube: הסרטון ב-YouTube צריך להיות גלוי לכולם או לא רשום.

    אפשר לציין כתובת URL אחת של סרטון YouTube בכל בקשה.


תמונות: דרישות, שיטות מומלצות ומגבלות

תמונות: דרישות

בקטע הזה מפורטים סוגי ה-MIME הנתמכים ומגבלות הבקשות לתמונות.

סוגי MIME נתמכים

Gemini מודלים מולטימודאליים תומכים בסוגי ה-MIME הבאים של תמונות:

  • ‫PNG – image/png
  • ‫JPEG – image/jpeg
  • ‫WebP – image/webp

מגבלות לכל בקשה

אין הגבלה ספציפית על מספר הפיקסלים בתמונה. עם זאת, תמונות גדולות יותר עוברות שינוי גודל והוספת שוליים כדי להתאים לרזולוציה מקסימלית של 3072 x‏ 3072, תוך שמירה על יחס הגובה-רוחב המקורי שלהן.

מספר הקבצים המקסימלי לבקשה: 3,000 קובצי תמונות

תמונות: יצירת טוקנים

כך מחושבים טוקנים לתמונות:

  • אם שני הממדים של התמונה קטנים מ-384 פיקסלים או שווים להם, נעשה שימוש ב-258 טוקנים.
  • אם מידה אחת של תמונה גדולה מ-384 פיקסלים, התמונה נחתכת לאריחים. גודל כל משבצת מוגדר כברירת מחדל למידה הקטנה ביותר (רוחב או גובה) חלקי 1.5. במקרה הצורך, כל משבצת מותאמת כך שהיא לא קטנה מ-256 פיקסלים ולא גדולה מ-768 פיקסלים. לאחר מכן, כל משבצת משנה את הגודל שלה ל-768x768 ומשתמשת ב-258 טוקנים.

תמונות: שיטות מומלצות

כדי לקבל את התוצאות הטובות ביותר כשמשתמשים בתמונות, כדאי לפעול לפי השיטות המומלצות והמידע הבאים:

  • אם רוצים לזהות טקסט בתמונה, כדאי להשתמש בהנחיות עם תמונה אחת כדי לקבל תוצאות טובות יותר מאשר בהנחיות עם כמה תמונות.
  • אם ההנחיה כוללת תמונה אחת, צריך למקם את התמונה לפני הנחיית הטקסט בבקשה.
  • אם ההנחיה מכילה כמה תמונות, ואתם רוצים להתייחס אליהן בהמשך ההנחיה או שהמודל יתייחס אליהן בתשובה שלו, כדאי לתת לכל תמונה אינדקס לפני התמונה. משתמשים ב-a b c או ב-image 1 image 2 image 3 לאינדקס. הדוגמה הבאה ממחישה שימוש בתמונות עם אינדקס בהנחיה: 
    image 1 
image 2 
image 3 

Write a blogpost about my day using image 1 and image 2. Then, give me ideas
for tomorrow based on image 3.
  • מומלץ להשתמש בתמונות ברזולוציה גבוהה יותר כדי לקבל תוצאות טובות יותר.
  • כדאי לכלול בהנחיה כמה דוגמאות.
  • לפני שמוסיפים תמונות להנחיה, צריך לסובב אותן לאוריינטציה הנכונה.
  • אל תשתמשו בתמונות מטושטשות.

תמונות: מגבלות

Gemini מודלים מולטימודאליים הם עוצמתיים בהרבה תרחישי שימוש מולטימודאליים, אבל חשוב להבין את המגבלות של המודלים:

  • צנזורה של תוכן: המודלים מסרבים לספק תשובות לגבי תמונות שמפירות את מדיניות הבטיחות שלנו.
  • היגיון מרחבי: המודלים לא מדויקים באיתור טקסט או אובייקטים בתמונות. יכול להיות שהם יחזירו רק את המספרים המשוערים של האובייקטים.
  • שימושים רפואיים: המודלים לא מתאימים לפרשנות של תמונות רפואיות (לדוגמה, צילומי רנטגן וטומוגרפיה ממוחשבת) או למתן ייעוץ רפואי.
  • זיהוי אנשים: המודלים לא מיועדים לזיהוי אנשים שאינם מפורסמים בתמונות.
  • דיוק: יכול להיות שהמודלים יפיקו הזיות או יעשו טעויות כשהם מפרשים תמונות באיכות נמוכה, תמונות מסובבות או תמונות ברזולוציה נמוכה מאוד. יכול להיות שהמודלים גם יפיקו הזיות כשהם מפרשים טקסט בכתב יד במסמכים של תמונות.


סרטונים: דרישות, שיטות מומלצות ומגבלות

סרטון: דרישות

בקטע הזה מפורטים סוגי ה-MIME הנתמכים והמגבלות לכל בקשה עבור סרטונים.

סוגי MIME נתמכים

Gemini מודלים מולטימודאליים תומכים בסוגי ה-MIME הבאים של סרטונים:

  • FLV - video/x-flv
  • MOV - video/quicktime
  • MPEG - video/mpeg
  • MPEGPS - video/mpegps
  • MPG - video/mpg
  • ‫MP4 – video/mp4
  • WEBM – video/webm
  • ‫WMV – video/wmv
  • ‫3GPP – video/3gpp

מגבלות לכל בקשה

מספר הקבצים המקסימלי לכל בקשה: 10 קובצי וידאו

סרטון: יצירת טוקנים

כך מחושבים האסימונים עבור סרטונים:

  • טראק האודיו מקודד עם פריימים של סרטון. פסי האודיו מחולקים גם הם לקטעים של שנייה אחת, שכל אחד מהם מייצג 32 טוקנים. מסגרת הווידאו וטוקני האודיו משולבים יחד עם חותמות הזמן שלהם. חותמות הזמן מיוצגות כ-5 טוקנים.
  • בסרטונים שנדגמים בקצב של פריים אחד לשנייה (fps) או פחות, חותמות הזמן של השעה הראשונה של הסרטון מיוצגות כ-5 טוקנים לכל פריים של הסרטון. חותמות הזמן הנותרות מיוצגות כ-7 טוקנים לכל פריים של הסרטון.
  • בסרטונים שנדגמים בקצב של יותר מפריימ אחד לשנייה (fps), חותמות הזמן של השעה הראשונה של הסרטון מיוצגות כ-9 טוקנים לכל פריימ בסרטון. חותמות הזמן הנותרות מיוצגות כ-11 טוקנים לכל פריים של הסרטון.

סרטון: שיטות מומלצות

כדי להשיג את התוצאות הטובות ביותר כשמשתמשים בסרטונים, כדאי לפעול לפי השיטות המומלצות הבאות:

  • אם ההנחיה מכילה סרטון אחד, צריך להוסיף את הסרטון לפני ההנחיה הטקסטואלית.
  • אם אתם צריכים לתרגם חותמות זמן בסרטון עם אודיו, אתם יכולים לבקש מהמודל ליצור חותמות זמן בפורמט שמתואר בקטע 'פורמט חותמת הזמן'.

סרטון: מגבלות

Gemini מודלים מולטימודאליים הם עוצמתיים במקרים רבים של שימוש מולטימודאלי, אבל חשוב להבין את המגבלות של המודלים:

  • סינון תוכן: המודלים מסרבים לספק תשובות לגבי סרטונים שמפירים את מדיניות הבטיחות שלנו.
  • זיהוי צלילים שאינם דיבור: יכול להיות שהמודלים שתומכים באודיו יטעו בזיהוי צלילים שאינם דיבור.


אודיו: דרישות ומגבלות

אודיו: דרישות

בקטע הזה מוסבר על סוגי ה-MIME הנתמכים ועל המגבלות לכל בקשה של אודיו.

סוגי MIME נתמכים

Gemini מודלים מולטימודאליים תומכים בסוגי ה-MIME הבאים של אודיו:

  • ‫AAC – audio/aac
  • ‫FLAC – audio/flac
  • MP3 - audio/mp3
  • MPA – audio/m4a
  • MPEG - audio/mpeg
  • MPGA - audio/mpga
  • ‫MP4 – audio/mp4
  • OPUS - audio/opus
  • PCM - audio/pcm
  • ‫WAV - audio/wav
  • WEBM – audio/webm

מגבלות לכל בקשה

מספר הקבצים המקסימלי לכל בקשה: קובץ אודיו אחד

אודיו: מגבלות

Gemini מודלים מולטימודאליים הם עוצמתיים במקרים רבים של שימוש מולטימודאלי, אבל חשוב להבין את המגבלות של המודלים:

  • זיהוי צלילים שאינם דיבור: יכול להיות שהמודלים שתומכים באודיו יטעו בזיהוי צלילים שאינם דיבור.
  • חותמות זמן של אודיו בלבד: כדי ליצור חותמות זמן מדויקות לקובצי אודיו בלבד, צריך להגדיר את הפרמטר audio_timestamp ב-generation_config.


מסמכים (כמו קובצי PDF): דרישות, שיטות מומלצות ומגבלות

מסמכים: דרישות

בקטע הזה מוסבר על סוגי ה-MIME הנתמכים ועל המגבלות לכל בקשה עבור מסמכים (כמו קובצי PDF).

סוגי MIME נתמכים

Gemini מודלים מולטימודאליים תומכים בסוגי ה-MIME הבאים של מסמכים:

  • ‫PDF – application/pdf
  • טקסט – text/plain

מגבלות לכל בקשה

קובצי PDF נחשבים לתמונות, ולכן דף אחד של קובץ PDF נחשב לתמונה אחת. מספר הדפים שמותר להשתמש בהם בהנחיה מוגבל למספר התמונות שמודלים רב-מוֹדאליים של Gemini יכולים לתמוך בהן.

  • מספר הקבצים המקסימלי לבקשה: 3,000 קבצים
  • מספר הדפים המקסימלי בכל קובץ: 1,000 דפים
  • הגודל המקסימלי של כל קובץ: 50MB לכל קובץ

מסמכים: יצירת טוקנים

טוקניזציה של קובצי PDF

קובצי PDF נחשבים כתמונות, ולכן כל דף בקובץ PDF עובר טוקניזציה באותו אופן כמו תמונה.

בנוסף, העלות של קובצי PDF היא בהתאם לתמחור התמונות Gemini. לדוגמה, אם כוללים קובץ PDF בן שני עמודים בקריאה ל-Gemini API, תחויבו בעמלת קלט על עיבוד של שתי תמונות.

מסמכים: שיטות מומלצות

כדי לקבל את התוצאות הטובות ביותר כשמשתמשים בקובצי PDF, כדאי לפעול לפי השיטות המומלצות ולעיין במידע הבא:

  • אם ההנחיה מכילה קובץ PDF אחד, צריך למקם את קובץ ה-PDF לפני ההנחיה הטקסטואלית בבקשה.
  • אם יש לכם מסמך ארוך, כדאי לפצל אותו לכמה קובצי PDF כדי לעבד אותו.
  • כדאי להשתמש בקובצי PDF שנוצרו עם טקסט שעבר רינדור כטקסט, במקום להשתמש בטקסט בתמונות סרוקות. הפורמט הזה מבטיח שהטקסט יהיה קריא למכונה, כך שיהיה קל יותר למודל לערוך, לחפש ולשנות אותו בהשוואה לקובצי PDF של תמונות סרוקות. השיטה הזו מניבה תוצאות אופטימליות כשעובדים עם מסמכים עמוסי טקסט כמו חוזים.

מסמכים: מגבלות

Gemini מודלים מולטימודאליים הם עוצמתיים בהרבה תרחישי שימוש מולטימודאליים, אבל חשוב להבין את המגבלות של המודלים:

  • היגיון מרחבי: המודלים לא מדויקים באיתור טקסט או אובייקטים בקובצי PDF. יכול להיות שהם יחזירו רק את המספרים המשוערים של האובייקטים.
  • דיוק: יכול להיות שהמודלים יפיקו הזיות כשהם מפרשים טקסט בכתב יד במסמכי PDF.