Вы можете попросить модель Gemini проанализировать файлы документов (например, PDF-файлы и файлы с обычным текстом), которые вы предоставите встроенным способом (в кодировке Base64) или через URL. Если вы используете Firebase AI Logic, вы можете отправить запрос прямо из приложения.
С помощью этой функции можно:
- Анализировать диаграммы, графики и таблицы в документах
- Извлекать информацию в структурированном формате
- отвечать на вопросы о визуальном и текстовом контенте в документах;
- Кратко пересказывать документы.
- Преобразовывать контент документа (например, в HTML), сохраняя макеты и форматирование, для использования в последующих приложениях (например, в конвейерах RAG).
В этом руководстве рассказывается о том, как генерировать текст на основе входных данных из документов (например, PDF-файлов). Вы также можете генерировать изображения на основе входных данных из документов.
Перейти к примерам кода Перейти к коду для потоковых ответов
|
Ознакомьтесь с другими руководствами, чтобы узнать о дополнительных способах работы с документами, например PDF-файлами. Создание структурированного вывода Многоходовая беседа |
Подготовка
|
Нажмите на поставщика Gemini API, чтобы посмотреть контент и код, относящиеся к нему. |
Если вы ещё этого не сделали, ознакомьтесь с руководством по началу работы. В нем рассказывается, как настроить проект Firebase, подключить к нему приложение, добавить SDK, инициализировать бэкенд-службу для выбранного поставщика Gemini API и создать экземпляр GenerativeModel.
Для тестирования и доработки запросов рекомендуем использовать Google AI Studio.
Модели, поддерживающие эту функцию
В этом руководстве рассказывается о том, как генерировать текст на основе входных данных документа (например, PDF-файла). Оно применимо к следующим моделям Gemini:
gemini-3.1-pro-previewgemini-3.8-flash(а также более старые версииgemini-3.7-flash,gemini-3.6-flashиgemini-3.5-flash)gemini-3.5-flash-lite(и более ранние версии, напримерgemini-3.1-flash-lite)
Модели общего назначения Gemini 2.5 поддерживают эту функцию, но все они устарели.
Создание текста на основе PDF-файлов (с кодировкой Base64)
|
Прежде чем использовать этот пример, выполните инструкции из раздела Подготовка к работе, чтобы настроить проект и приложение. В этом разделе также есть кнопка для выбранного вами поставщика Gemini API. Нажмите ее, чтобы на этой странице отображался контент, относящийся к этому поставщику. |
Вы можете попросить модель Gemini сгенерировать текст, предоставив ей текстовые и PDF-файлы. Для каждого входного файла укажите mimeType и сам файл. Требования и рекомендации к входным файлам приведены ниже на этой странице.
Swift
Вы можете вызвать функцию generateContent(), чтобы сгенерировать текст на основе многомодальных входных данных, таких как текст и PDF-файлы.
import FirebaseAILogic
// Initialize the Gemini Developer API backend service.
let ai = FirebaseAI.firebaseAI(backend: .googleAI())
// Create a `GenerativeModel` instance with a model that supports your use case.
let model = ai.generativeModel(modelName: "gemini-3.8-flash")
// Provide the PDF as `Data` with the appropriate MIME type
let pdf = try InlineDataPart(data: Data(contentsOf: pdfURL), mimeType: "application/pdf")
// Provide a text prompt to include with the PDF file
let prompt = "Summarize the important results in this report."
// To generate text output, call `generateContent` with the PDF file and text prompt
let response = try await model.generateContent(pdf, prompt)
// Print the generated text, handling the case where it might be nil
print(response.text ?? "No text in response.")
Kotlin
Вы можете вызвать функцию generateContent(), чтобы сгенерировать текст на основе многомодальных входных данных, таких как текст и PDF-файлы.
// Initialize the Gemini Developer API backend service.
// Create a `GenerativeModel` instance with a model that supports your use case.
val model = Firebase.ai(backend = GenerativeBackend.googleAI())
.generativeModel("gemini-3.8-flash")
val contentResolver = applicationContext.contentResolver
// Provide the URI for the PDF file you want to send to the model
val inputStream = contentResolver.openInputStream(pdfUri)
if (inputStream != null) { // Check if the PDF file loaded successfully
inputStream.use { stream ->
// Provide a prompt that includes the PDF file specified above and text
val prompt = content {
inlineData(
bytes = stream.readBytes(),
mimeType = "application/pdf" // Specify the appropriate PDF file MIME type
)
text("Summarize the important results in this report.")
}
// To generate text output, call `generateContent` with the prompt
val response = model.generateContent(prompt)
// Log the generated text, handling the case where it might be null
Log.d(TAG, response.text ?: "")
}
} else {
Log.e(TAG, "Error getting input stream for file.")
// Handle the error appropriately
}
Java
Вы можете вызвать функцию generateContent(), чтобы сгенерировать текст на основе многомодальных входных данных, таких как текст и PDF-файлы.
ListenableFuture.
// Initialize the Gemini Developer API backend service.
// Create a `GenerativeModel` instance with a model that supports your use case.
GenerativeModel ai = FirebaseAI.getInstance(GenerativeBackend.googleAI())
.generativeModel("gemini-3.8-flash");
// Use the GenerativeModelFutures Java compatibility layer which offers
// support for ListenableFuture and Publisher APIs
GenerativeModelFutures model = GenerativeModelFutures.from(ai);
ContentResolver resolver = getApplicationContext().getContentResolver();
// Provide the URI for the PDF file you want to send to the model
try (InputStream stream = resolver.openInputStream(pdfUri)) {
if (stream != null) {
byte[] audioBytes = stream.readAllBytes();
stream.close();
// Provide a prompt that includes the PDF file specified above and text
Content prompt = new Content.Builder()
.addInlineData(audioBytes, "application/pdf") // Specify the appropriate PDF file MIME type
.addText("Summarize the important results in this report.")
.build();
// To generate text output, call `generateContent` with the prompt
ListenableFuture<GenerateContentResponse> response = model.generateContent(prompt);
Futures.addCallback(response, new FutureCallback<GenerateContentResponse>() {
@Override
public void onSuccess(GenerateContentResponse result) {
String text = result.getText();
Log.d(TAG, (text == null) ? "" : text);
}
@Override
public void onFailure(Throwable t) {
Log.e(TAG, "Failed to generate a response", t);
}
}, executor);
} else {
Log.e(TAG, "Error getting input stream for file.");
// Handle the error appropriately
}
} catch (IOException e) {
Log.e(TAG, "Failed to read the pdf file", e);
} catch (URISyntaxException e) {
Log.e(TAG, "Invalid pdf file", e);
}
Web
Вы можете вызвать функцию generateContent(), чтобы сгенерировать текст на основе многомодальных входных данных, таких как текст и PDF-файлы.
import { initializeApp } from "firebase/app";
import { getAI, getGenerativeModel, GoogleAIBackend } from "firebase/ai";
// TODO(developer): Replace the following with your app's Firebase configuration
// See: https://firebase.google.com/docs/web/learn-more#config-object
const firebaseConfig = {
// ...
};
// Initialize FirebaseApp
const firebaseApp = initializeApp(firebaseConfig);
// Initialize the Gemini Developer API backend service.
const ai = getAI(firebaseApp, { backend: new GoogleAIBackend() });
// Create a `GenerativeModel` instance with a model that supports your use case.
const model = getGenerativeModel(ai, { model: "gemini-3.8-flash" });
// Converts a File object to a Part object.
async function fileToGenerativePart(file) {
const base64EncodedDataPromise = new Promise((resolve) => {
const reader = new FileReader();
reader.onloadend = () => resolve(reader.result.split(','));
reader.readAsDataURL(file);
});
return {
inlineData: { data: await base64EncodedDataPromise, mimeType: file.type },
};
}
async function run() {
// Provide a text prompt to include with the PDF file
const prompt = "Summarize the important results in this report.";
// Prepare PDF file for input
const fileInputEl = document.querySelector("input[type=file]");
const pdfPart = await fileToGenerativePart(fileInputEl.files);
// To generate text output, call `generateContent` with the text and PDF file
const result = await model.generateContent([prompt, pdfPart]);
// Log the generated text, handling the case where it might be undefined
console.log(result.response.text() ?? "No text in response.");
}
run();
Dart
Вы можете использовать функцию generateContent(), чтобы генерировать текст на основе многомодальных входных данных, таких как текст и PDF-файлы.
import 'package:firebase_ai/firebase_ai.dart';
import 'package:firebase_core/firebase_core.dart';
import 'firebase_options.dart';
// Initialize FirebaseApp
await Firebase.initializeApp(
options: DefaultFirebaseOptions.currentPlatform,
);
// Initialize the Gemini Developer API backend service.
// Create a `GenerativeModel` instance with a model that supports your use case.
final model =
FirebaseAI.googleAI().generativeModel(model: 'gemini-3.8-flash');
// Provide a text prompt to include with the PDF file
final prompt = TextPart("Summarize the important results in this report.");
// Prepare the PDF file for input
final doc = await File('document0.pdf').readAsBytes();
// Provide the PDF file as `Data` with the appropriate PDF file MIME type
final docPart = InlineDataPart('application/pdf', doc);
// To generate text output, call `generateContent` with the text and PDF file
final response = await model.generateContent([
Content.multi([prompt,docPart])
]);
// Print the generated text
print(response.text);
Unity
Вы можете вызвать функцию GenerateContentAsync(), чтобы сгенерировать текст на основе многомодальных входных данных, таких как текст и PDF-файлы.
using Firebase;
using Firebase.AI;
// Initialize the Gemini Developer API backend service.
var ai = FirebaseAI.GetInstance(FirebaseAI.Backend.GoogleAI());
// Create a `GenerativeModel` instance with a model that supports your use case.
var model = ai.GetGenerativeModel(modelName: "gemini-3.8-flash");
// Provide a text prompt to include with the PDF file
var prompt = ModelContent.Text("Summarize the important results in this report.");
// Provide the PDF file as `data` with the appropriate PDF file MIME type
var doc = ModelContent.InlineData("application/pdf",
System.IO.File.ReadAllBytes(System.IO.Path.Combine(
UnityEngine.Application.streamingAssetsPath, "document0.pdf")));
// To generate text output, call `GenerateContentAsync` with the text and PDF file
var response = await model.GenerateContentAsync(new [] { prompt, doc });
// Print the generated text
UnityEngine.Debug.Log(response.Text ?? "No text in response.");
Узнайте, как выбрать модель для вашего приложения и варианта использования.
Потоковая передача ответа
|
Прежде чем использовать этот пример, выполните инструкции из раздела Подготовка к работе, чтобы настроить проект и приложение. В этом разделе также есть кнопка для выбранного вами поставщика Gemini API. Нажмите ее, чтобы на этой странице отображался контент, относящийся к этому поставщику. |
Чтобы ускорить взаимодействие, не ждите, пока модель сгенерирует весь результат, а используйте потоковую передачу частичных результатов.
Чтобы передать ответ потоком, вызовите функцию generateContentStream.
Требования и рекомендации к входным документам
Обратите внимание, что файл, предоставленный в виде встроенных данных, при передаче кодируется в формате Base64, что увеличивает размер запроса. Если запрос слишком большой, вы получите ошибку HTTP 413.
Подробную информацию о поддерживаемых входных файлах и требованиях можно найти на странице "Поддерживаемые входные файлы и требования".
- Разные способы предоставления файла в запросе (встроенный или с использованием URL или URI файла).
- Требования к файлам документов и рекомендации
Поддерживаемые MIME-типы документов
Gemini мультимодальные модели поддерживают следующие MIME-типы документов:
- PDF-файл:
application/pdf - Текст –
text/plain
Ограничения на запрос
PDF-файлы обрабатываются как изображения, поэтому одна страница PDF-файла считается одним изображением. Количество страниц в запросе ограничено количеством изображений, которые могут обрабатывать мультимодальные модели Gemini.
- Максимальное количество файлов в запросе: 3000.
- Максимальное количество страниц в файле: 1000.
- Максимальный размер файла: 50 МБ.
Что ещё ты умеешь делать?
- Узнайте, как подсчитывать токены перед отправкой длинных запросов модели.
- Настройте Cloud Storage for Firebase, чтобы добавлять в мультимодальные запросы большие файлы и использовать более удобное решение для предоставления файлов в запросах. Файлы могут содержать изображения, PDF-документы, видео и аудио.
-
Начните готовиться к публикации рабочей версии (см. контрольный список):
- Принудительно используйте Firebase App Check как можно раньше, чтобы защитить Gemini API от неправомерного использования неавторизованными клиентами.
- Используйте Firebase Remote Config или шаблоны запросов на сервере для изменения конфигураций функции ИИ (например, названия модели) по запросу без выпуска новой версии приложения.
Попробуйте другие функции
- Создавайте многоходовые диалоги (чат).
- Создавать текст на основе текстовых запросов.
- Создание структурированных выходных данных (например, в формате JSON) на основе текстовых и мультимодальных запросов.
- Создавать и редактировать изображения по текстовым и мультимодальным запросам.
- Генерировать речь (одного или нескольких говорящих) с помощью моделей Gemini.
-
Используйте инструменты (например, вызов функций
и обоснование с помощью
Google Search илиGoogle Maps ), чтобы подключить модель Gemini к другим частям приложения и внешним системам и информации.
Как управлять созданием контента
- Изучите принципы создания запросов, в том числе рекомендации, стратегии и примеры.
- Настройте параметры модели, например максимальное количество выходных токенов, вероятность повторения выходных токенов и т. д.
- Настройки безопасности позволяют регулировать вероятность получения ответов, которые могут быть восприняты как вредоносные.
Подробнее о поддерживаемых моделях…
Узнайте больше о моделях, доступных для разных вариантов использования, а также об их квотах и тарифах.Оставить отзыв о работе Firebase AI Logic