אתם יכולים לבקש ממודל Gemini לנתח קובצי מסמכים (כמו קובצי PDF וקובצי טקסט פשוט) שאתם מספקים, או בתוך השורה (בקידוד base64) או באמצעות כתובת URL. כשמשתמשים ב-Firebase AI Logic, אפשר לשלוח את הבקשה הזו ישירות מהאפליקציה.
היכולת הזו מאפשרת לכם:
- לנתח דיאגרמות, תרשימים וטבלאות בתוך מסמכים
- חילוץ מידע לפורמטים של פלט מובנה
- לענות על שאלות לגבי תוכן חזותי וטקסטואלי במסמכים
- לסכם מסמכים
- תמלול תוכן של מסמכים (לדוגמה, ל-HTML), תוך שמירה על הפריסות והעיצוב, לשימוש באפליקציות במורד הזרם (כמו בצינורות עיבוד נתונים של RAG)
המדריך הזה עוסק ביצירת טקסט מקלט של מסמכים (כמו קובצי PDF), אבל אתם יכולים גם ליצור תמונות מקלט של מסמכים.
דילוג לדוגמאות קוד דילוג לקוד של תשובות בסטרימינג
|
במדריכים אחרים מפורטות אפשרויות נוספות לעבודה עם מסמכים (כמו קובצי PDF) יצירת פלט מובנה שיחה עם זיכרון |
לפני שמתחילים
|
כדי לראות תוכן וקוד שספציפיים לספק, לוחצים על הספק Gemini API בדף הזה. |
אם עדיין לא עשיתם את זה, אתם צריכים לפעול לפי המדריך לתחילת הדרך, שבו מוסבר איך להגדיר את הפרויקט ב-Firebase, לקשר את האפליקציה ל-Firebase, להוסיף את ה-SDK, להפעיל את שירות הקצה העורפי של ספק ה-Gemini API שבחרתם וליצור מכונה של GenerativeModel.
כדי לבדוק את ההנחיות ולשפר אותן, מומלץ להשתמש ב-Google AI Studio.
מודלים שתומכים ביכולת הזו
המדריך הזה עוסק ביצירת טקסט דינמי מבוסס-AI מקלט של מסמכים (כמו קובצי PDF), והוא רלוונטי למודלים הבאים של Gemini:
gemini-4-argon-
gemini-3.8-flash(והגרסאות הישנות יותרgemini-3.7-flash,gemini-3.6-flashו-gemini-3.5-flash) -
gemini-3.5-flash-lite(והגרסה הישנה יותרgemini-3.1-flash-lite)
גם המודלים gemini-3.1-pro-preview ו-Gemini 2.5 לשימוש כללי (שיצאו משימוש) תומכים ביכולת הזו.
יצירת טקסט מקובצי PDF (בקידוד Base64)
|
לפני שמנסים את הדוגמה הזו, צריך להשלים את השלבים בקטע לפני שמתחילים במדריך הזה כדי להגדיר את הפרויקט והאפליקציה. בקטע הזה צריך גם ללחוץ על כפתור של ספק Gemini API שבחרתם כדי לראות בדף הזה תוכן שספציפי לספק. |
אתם יכולים לבקש ממודל Gemini ליצור טקסט באמצעות הנחיות עם טקסט וקובצי PDF – על ידי ציון ה-mimeType של כל קובץ קלט והקובץ עצמו. בהמשך הדף מפורטות הדרישות וההמלצות לגבי קובצי קלט.
Swift
אתם יכולים להפעיל את generateContent() כדי ליצור טקסט מקלט משולב של טקסט וקובצי PDF.
import FirebaseAILogic
// Initialize the Gemini Developer API backend service.
let ai = FirebaseAI.firebaseAI(backend: .googleAI())
// Create a `GenerativeModel` instance with a model that supports your use case.
let model = ai.generativeModel(modelName: "gemini-3.8-flash")
// Provide the PDF as `Data` with the appropriate MIME type
let pdf = try InlineDataPart(data: Data(contentsOf: pdfURL), mimeType: "application/pdf")
// Provide a text prompt to include with the PDF file
let prompt = "Summarize the important results in this report."
// To generate text output, call `generateContent` with the PDF file and text prompt
let response = try await model.generateContent(pdf, prompt)
// Print the generated text, handling the case where it might be nil
print(response.text ?? "No text in response.")
Kotlin
אתם יכולים להפעיל את generateContent() כדי ליצור טקסט מקלט משולב של טקסט וקובצי PDF.
// Initialize the Gemini Developer API backend service.
// Create a `GenerativeModel` instance with a model that supports your use case.
val model = Firebase.ai(backend = GenerativeBackend.googleAI())
.generativeModel("gemini-3.8-flash")
val contentResolver = applicationContext.contentResolver
// Provide the URI for the PDF file you want to send to the model
val inputStream = contentResolver.openInputStream(pdfUri)
if (inputStream != null) { // Check if the PDF file loaded successfully
inputStream.use { stream ->
// Provide a prompt that includes the PDF file specified above and text
val prompt = content {
inlineData(
bytes = stream.readBytes(),
mimeType = "application/pdf" // Specify the appropriate PDF file MIME type
)
text("Summarize the important results in this report.")
}
// To generate text output, call `generateContent` with the prompt
val response = model.generateContent(prompt)
// Log the generated text, handling the case where it might be null
Log.d(TAG, response.text ?: "")
}
} else {
Log.e(TAG, "Error getting input stream for file.")
// Handle the error appropriately
}
Java
אתם יכולים להפעיל את generateContent() כדי ליצור טקסט מקלט משולב של טקסט וקובצי PDF.
ListenableFuture.
// Initialize the Gemini Developer API backend service.
// Create a `GenerativeModel` instance with a model that supports your use case.
GenerativeModel ai = FirebaseAI.getInstance(GenerativeBackend.googleAI())
.generativeModel("gemini-3.8-flash");
// Use the GenerativeModelFutures Java compatibility layer which offers
// support for ListenableFuture and Publisher APIs
GenerativeModelFutures model = GenerativeModelFutures.from(ai);
ContentResolver resolver = getApplicationContext().getContentResolver();
// Provide the URI for the PDF file you want to send to the model
try (InputStream stream = resolver.openInputStream(pdfUri)) {
if (stream != null) {
byte[] audioBytes = stream.readAllBytes();
stream.close();
// Provide a prompt that includes the PDF file specified above and text
Content prompt = new Content.Builder()
.addInlineData(audioBytes, "application/pdf") // Specify the appropriate PDF file MIME type
.addText("Summarize the important results in this report.")
.build();
// To generate text output, call `generateContent` with the prompt
ListenableFuture<GenerateContentResponse> response = model.generateContent(prompt);
Futures.addCallback(response, new FutureCallback<GenerateContentResponse>() {
@Override
public void onSuccess(GenerateContentResponse result) {
String text = result.getText();
Log.d(TAG, (text == null) ? "" : text);
}
@Override
public void onFailure(Throwable t) {
Log.e(TAG, "Failed to generate a response", t);
}
}, executor);
} else {
Log.e(TAG, "Error getting input stream for file.");
// Handle the error appropriately
}
} catch (IOException e) {
Log.e(TAG, "Failed to read the pdf file", e);
} catch (URISyntaxException e) {
Log.e(TAG, "Invalid pdf file", e);
}
Web
אתם יכולים להפעיל את generateContent() כדי ליצור טקסט מקלט משולב של טקסט וקובצי PDF.
import { initializeApp } from "firebase/app";
import { getAI, getGenerativeModel, GoogleAIBackend } from "firebase/ai";
// TODO(developer): Replace the following with your app's Firebase configuration
// See: https://firebase.google.com/docs/web/learn-more#config-object
const firebaseConfig = {
// ...
};
// Initialize FirebaseApp
const firebaseApp = initializeApp(firebaseConfig);
// Initialize the Gemini Developer API backend service.
const ai = getAI(firebaseApp, { backend: new GoogleAIBackend() });
// Create a `GenerativeModel` instance with a model that supports your use case.
const model = getGenerativeModel(ai, { model: "gemini-3.8-flash" });
// Converts a File object to a Part object.
async function fileToGenerativePart(file) {
const base64EncodedDataPromise = new Promise((resolve) => {
const reader = new FileReader();
reader.onloadend = () => resolve(reader.result.split(','));
reader.readAsDataURL(file);
});
return {
type: "inlineData",
inlineData: { data: await base64EncodedDataPromise, mimeType: file.type },
};
}
async function run() {
// Provide a text prompt to include with the PDF file
const prompt = "Summarize the important results in this report.";
// Prepare PDF file for input
const fileInputEl = document.querySelector("input[type=file]");
const pdfPart = await fileToGenerativePart(fileInputEl.files);
// To generate text output, call `generateContent` with the text and PDF file
const result = await model.generateContent([prompt, pdfPart]);
// Log the generated text, handling the case where it might be undefined
console.log(result.response.text() ?? "No text in response.");
}
run();
Dart
אתם יכולים להפעיל את generateContent() כדי ליצור טקסט מקלט מולטי-מודאלי של טקסט וקובצי PDF.
import 'package:firebase_ai/firebase_ai.dart';
import 'package:firebase_core/firebase_core.dart';
import 'firebase_options.dart';
// Initialize FirebaseApp
await Firebase.initializeApp(
options: DefaultFirebaseOptions.currentPlatform,
);
// Initialize the Gemini Developer API backend service.
// Create a `GenerativeModel` instance with a model that supports your use case.
final model =
FirebaseAI.googleAI().generativeModel(model: 'gemini-3.8-flash');
// Provide a text prompt to include with the PDF file
final prompt = TextPart("Summarize the important results in this report.");
// Prepare the PDF file for input
final doc = await File('document0.pdf').readAsBytes();
// Provide the PDF file as `Data` with the appropriate PDF file MIME type
final docPart = InlineDataPart('application/pdf', doc);
// To generate text output, call `generateContent` with the text and PDF file
final response = await model.generateContent([
Content.multi([prompt,docPart])
]);
// Print the generated text
print(response.text);
Unity
אתם יכולים להפעיל את GenerateContentAsync() כדי ליצור טקסט מקלט משולב של טקסט וקובצי PDF.
using Firebase;
using Firebase.AI;
// Initialize the Gemini Developer API backend service.
var ai = FirebaseAI.GetInstance(FirebaseAI.Backend.GoogleAI());
// Create a `GenerativeModel` instance with a model that supports your use case.
var model = ai.GetGenerativeModel(modelName: "gemini-3.8-flash");
// Provide a text prompt to include with the PDF file
var prompt = ModelContent.Text("Summarize the important results in this report.");
// Provide the PDF file as `data` with the appropriate PDF file MIME type
var doc = ModelContent.InlineData("application/pdf",
System.IO.File.ReadAllBytes(System.IO.Path.Combine(
UnityEngine.Application.streamingAssetsPath, "document0.pdf")));
// To generate text output, call `GenerateContentAsync` with the text and PDF file
var response = await model.GenerateContentAsync(new [] { prompt, doc });
// Print the generated text
UnityEngine.Debug.Log(response.Text ?? "No text in response.");
איך בוחרים מודל שמתאימים לתרחיש לדוגמה ולאפליקציה.
הצגת התשובה באופן שוטף
|
לפני שמנסים את הדוגמה הזו, צריך להשלים את השלבים בקטע לפני שמתחילים במדריך הזה כדי להגדיר את הפרויקט והאפליקציה. בקטע הזה צריך גם ללחוץ על כפתור של ספק Gemini API שבחרתם כדי לראות בדף הזה תוכן שספציפי לספק. |
כדי לקבל אינטראקציות מהירות יותר, אתם יכולים לא לחכות לתוצאה המלאה מהמודל, אלא להשתמש בסטרימינג כדי לטפל בתוצאות חלקיות.
כדי להעביר את התשובה בסטרימינג, צריך להפעיל את generateContentStream.
דרישות והמלצות למסמכי קלט
שימו לב שקובץ שסופק כנתונים מוטבעים מקודד ל-base64 בזמן ההעברה, מה שמגדיל את גודל הבקשה. אם הבקשה גדולה מדי, תתקבל שגיאת HTTP 413.
בדף "קבצי קלט נתמכים ודרישות" מפורט מידע על:
- אפשרויות שונות להוספת קובץ לבקשה (באופן מוטבע או באמצעות כתובת ה-URL או ה-URI של הקובץ)
- דרישות ושיטות מומלצות לקובצי מסמכים
סוגי MIME נתמכים של מסמכים
המודלים המולטי-מודאליים של Gemini תומכים בסוגי ה-MIME הבאים של מסמכים:
- PDF –
application/pdf - טקסט –
text/plain
מגבלות לכל בקשה
קובצי PDF נחשבים לתמונות, כך שדף אחד של קובץ PDF נחשב לתמונה אחת. מספר הדפים שאפשר לכלול בהנחיה מוגבל למספר התמונות שהמודלים המולטי-מודאליים של Gemini יכולים לתמוך בהן.
- מספר הקבצים המקסימלי לבקשה: 3,000 קבצים
- מספר הדפים המקסימלי לקובץ: 1,000 דפים לקובץ
- גודל מקסימלי לכל קובץ: 50MB
מה עוד אפשר לעשות?
- איך סופרים טוקנים לפני ששולחים הנחיות ארוכות למודל.
- להגדיר את Cloud Storage for Firebase כדי לכלול קבצים גדולים בבקשות המולטי-מודאליות, ולקבל פתרון מנוהל יותר להוספת קבצים בהנחיות. הקבצים יכולים לכלול תמונות, קובצי PDF, סרטונים וקטעי אודיו.
-
מתחילים לחשוב על הכנה לייצור (ראו את רשימת המשימות לייצור):
- אכפו את Firebase App Check מוקדם ככל האפשר כדי להגן על Gemini API מפני ניצול לרעה על ידי לקוחות לא מורשים.
- השתמשו בFirebase Remote Config או בתבניות לפרומפטים בשרת כדי שתוכלו לשנות לפי דרישה את ההגדרות של תכונת ה-AI (כמו שם המודל) בלי להוציא גרסה חדשה של האפליקציה.
לנסות יכולות אחרות
- לפתח שיחות עם זיכרון (צ'אט).
- ליצור טקסט דינמי מבוסס-AI מהנחיות טקסט בלבד.
- ליצור פלט מובנה (כמו JSON) מפרומפטים של טקסט ומפרומפטים מולטי-מודאליים.
- ליצור ולערוך תמונות באמצעות פרומפטים טקסטואליים ומולטי-מודאליים.
- ליצור דיבור (של דובר אחד או של כמה דוברים) באמצעות מודלים של המרת טקסט לדיבור (TTS) ב-Gemini.
-
להשתמש בכלים (כמו קריאה להפעלת פונקציות וביסוס בעזרת
Google Search אוGoogle Maps ) כדי לקשר מודל Gemini לחלקים אחרים באפליקציה ולמערכות ולמידע חיצוניים.
איך לשלוט ביצירת התוכן
- הסבר על עיצוב הנחיות, כולל שיטות מומלצות, אסטרטגיות ודוגמאות להנחיות.
- להגדיר פרמטרים של מודלים, כמו המספר המקסימלי של טוקנים בפלט, ההסתברות של טוקנים חוזרים בפלט וכו'.
- להשתמש בהגדרות הבטיחות כדי לשנות את הסבירות לקבלת תשובות שעלולות להיחשב כמזיקות.
מידע נוסף על המודלים הנתמכים
מידע ולמידה על המודלים שזמינים לתרחישי שימוש שונים, המכסות והתמחור שלהם.שליחת משוב על חוויית השימוש ב-Firebase AI Logic