Możesz poprosić model Gemini o przeanalizowanie plików wideo, które podasz w treści (zakodowane w base64) lub za pomocą adresu URL. Gdy używasz Firebase AI Logic, możesz wysłać to żądanie bezpośrednio z aplikacji.
Dzięki tej funkcji możesz m.in.:
- dodawać napisy do filmów i odpowiadać na pytania dotyczące filmów,
- analizować określone segmenty filmu za pomocą sygnatur czasowych,
- transkrybować treści wideo, przetwarzając zarówno ścieżkę dźwiękową, jak i klatki wizualne,
- opisywać, segmentować i wyodrębniać informacje z filmów, w tym ze ścieżki dźwiękowej i klatek wizualnych.
Przejdź do przykładów kodu Przejdź do kodu odpowiedzi przesyłanych strumieniowo
|
Więcej opcji pracy z filmami znajdziesz w innych przewodnikach Generowanie danych wyjściowych w uporządkowanej formie Czat wieloetapowy |
Zanim zaczniesz
|
Kliknij swojego dostawcę Gemini API, aby wyświetlić na tej stronie treści i kod specyficzne dla dostawcy. |
Jeśli jeszcze tego nie zrobisz, zapoznaj się z
przewodnikiem dla początkujących, w którym opisujemy, jak
skonfigurować projekt Firebase, połączyć aplikację z Firebase, dodać pakiet SDK, zainicjować usługę backendu dla wybranego dostawcy Gemini API i
utworzyć instancję GenerativeModel.
Do testowania i iteracji promptów zalecamy używanie Google AI Studio.
Generowanie tekstu na podstawie plików wideo (zakodowanych w base64)
|
Zanim wypróbujesz ten przykład, wykonaj czynności opisane w sekcji
Zanim zaczniesz tego przewodnika
aby skonfigurować projekt i aplikację. W tej sekcji klikniesz też przycisk dostawcy Gemini API aby na tej stronie wyświetlały się treści specyficzne dla dostawcy. |
Możesz poprosić model Gemini o
wygenerowanie tekstu, podając tekst i film, a także mimeType każdego pliku wejściowego i sam plik. Wymagania i zalecenia dotyczące plików wejściowych znajdziesz
dalej na tej stronie.
Swift
Aby wygenerować tekst na podstawie multimodalnych danych wejściowych składających się z tekstu i plików wideo, możesz wywołać funkcję
generateContent().
import FirebaseAILogic
// Initialize the Gemini Developer API backend service.
let ai = FirebaseAI.firebaseAI(backend: .googleAI())
// Create a `GenerativeModel` instance with a model that supports your use case.
let model = ai.generativeModel(modelName: "gemini-3.5-flash")
// Provide the video as `Data` with the appropriate MIME type.
let video = InlineDataPart(data: try Data(contentsOf: videoURL), mimeType: "video/mp4")
// Provide a text prompt to include with the video
let prompt = "What is in the video?"
// To generate text output, call generateContent with the text and video
let response = try await model.generateContent(video, prompt)
print(response.text ?? "No text in response.")
Kotlin
Aby wygenerować tekst na podstawie multimodalnych danych wejściowych składających się z tekstu i plików wideo, możesz wywołać funkcję
generateContent().
// Initialize the Gemini Developer API backend service.
// Create a `GenerativeModel` instance with a model that supports your use case.
val model = Firebase.ai(backend = GenerativeBackend.googleAI())
.generativeModel("gemini-3.5-flash")
val contentResolver = applicationContext.contentResolver
contentResolver.openInputStream(videoUri).use { stream ->
stream?.let {
val bytes = stream.readBytes()
// Provide a prompt that includes the video specified above and text
val prompt = content {
inlineData(bytes, "video/mp4")
text("What is in the video?")
}
// To generate text output, call generateContent with the prompt
val response = model.generateContent(prompt)
Log.d(TAG, response.text ?: "")
}
}
Java
Aby wygenerować tekst na podstawie multimodalnych danych wejściowych składających się z tekstu i plików wideo, możesz wywołać funkcję
generateContent().
ListenableFuture.
// Initialize the Gemini Developer API backend service.
// Create a `GenerativeModel` instance with a model that supports your use case.
GenerativeModel ai = FirebaseAI.getInstance(GenerativeBackend.googleAI())
.generativeModel("gemini-3.5-flash");
// Use the GenerativeModelFutures Java compatibility layer which offers
// support for ListenableFuture and Publisher APIs
GenerativeModelFutures model = GenerativeModelFutures.from(ai);
ContentResolver resolver = getApplicationContext().getContentResolver();
try (InputStream stream = resolver.openInputStream(videoUri)) {
File videoFile = new File(new URI(videoUri.toString()));
int videoSize = (int) videoFile.length();
byte[] videoBytes = new byte[videoSize];
if (stream != null) {
stream.read(videoBytes, 0, videoBytes.length);
stream.close();
// Provide a prompt that includes the video specified above and text
Content prompt = new Content.Builder()
.addInlineData(videoBytes, "video/mp4")
.addText("What is in the video?")
.build();
// To generate text output, call generateContent with the prompt
ListenableFuture<GenerateContentResponse> response = model.generateContent(prompt);
Futures.addCallback(response, new FutureCallback<GenerateContentResponse>() {
@Override
public void onSuccess(GenerateContentResponse result) {
String resultText = result.getText();
System.out.println(resultText);
}
@Override
public void onFailure(Throwable t) {
t.printStackTrace();
}
}, executor);
}
} catch (IOException e) {
e.printStackTrace();
} catch (URISyntaxException e) {
e.printStackTrace();
}
Web
Aby wygenerować tekst na podstawie multimodalnych danych wejściowych składających się z tekstu i plików wideo, możesz wywołać funkcję
generateContent().
import { initializeApp } from "firebase/app";
import { getAI, getGenerativeModel, GoogleAIBackend } from "firebase/ai";
// TODO(developer) Replace the following with your app's Firebase configuration
// See: https://firebase.google.com/docs/web/learn-more#config-object
const firebaseConfig = {
// ...
};
// Initialize FirebaseApp
const firebaseApp = initializeApp(firebaseConfig);
// Initialize the Gemini Developer API backend service.
const ai = getAI(firebaseApp, { backend: new GoogleAIBackend() });
// Create a `GenerativeModel` instance with a model that supports your use case.
const model = getGenerativeModel(ai, { model: "gemini-3.5-flash" });
// Converts a File object to a Part object.
async function fileToGenerativePart(file) {
const base64EncodedDataPromise = new Promise((resolve) => {
const reader = new FileReader();
reader.onloadend = () => resolve(reader.result.split(',')[1]);
reader.readAsDataURL(file);
});
return {
inlineData: { data: await base64EncodedDataPromise, mimeType: file.type },
};
}
async function run() {
// Provide a text prompt to include with the video
const prompt = "What do you see?";
const fileInputEl = document.querySelector("input[type=file]");
const videoPart = await fileToGenerativePart(fileInputEl.files[0]);
// To generate text output, call generateContent with the text and video
const result = await model.generateContent([prompt, videoPart]);
const response = result.response;
const text = response.text();
console.log(text);
}
run();
Dart
Aby wygenerować tekst na podstawie multimodalnych danych wejściowych składających się z tekstu i plików wideo, możesz wywołać funkcję
generateContent().
import 'package:firebase_ai/firebase_ai.dart';
import 'package:firebase_core/firebase_core.dart';
import 'firebase_options.dart';
// Initialize FirebaseApp
await Firebase.initializeApp(
options: DefaultFirebaseOptions.currentPlatform,
);
// Initialize the Gemini Developer API backend service.
// Create a `GenerativeModel` instance with a model that supports your use case.
final model =
FirebaseAI.googleAI().generativeModel(model: 'gemini-3.5-flash');
// Provide a text prompt to include with the video
final prompt = TextPart("What's in the video?");
// Prepare video for input
final video = await File('video0.mp4').readAsBytes();
// Provide the video as `Data` with the appropriate mimetype
final videoPart = InlineDataPart('video/mp4', video);
// To generate text output, call generateContent with the text and images
final response = await model.generateContent([
Content.multi([prompt, ...videoPart])
]);
print(response.text);
Unity
Aby wygenerować tekst na podstawie multimodalnych danych wejściowych składających się z tekstu i plików wideo, możesz wywołać funkcję
GenerateContentAsync().
using Firebase;
using Firebase.AI;
// Initialize the Gemini Developer API backend service.
var ai = FirebaseAI.GetInstance(FirebaseAI.Backend.GoogleAI());
// Create a `GenerativeModel` instance with a model that supports your use case.
var model = ai.GetGenerativeModel(modelName: "gemini-3.5-flash");
// Provide the video as `data` with the appropriate MIME type.
var video = ModelContent.InlineData("video/mp4",
System.IO.File.ReadAllBytes(System.IO.Path.Combine(
UnityEngine.Application.streamingAssetsPath, "yourVideo.mp4")));
// Provide a text prompt to include with the video
var prompt = ModelContent.Text("What is in the video?");
// To generate text output, call GenerateContentAsync with the text and video
var response = await model.GenerateContentAsync(new [] { video, prompt });
UnityEngine.Debug.Log(response.Text ?? "No text in response.");
Dowiedz się, jak wybrać model odpowiednią dla Twojego przypadku użycia i aplikacji.
Przesyłanie odpowiedzi strumieniowo
|
Zanim wypróbujesz ten przykład, wykonaj czynności opisane w sekcji
Zanim zaczniesz tego przewodnika
aby skonfigurować projekt i aplikację. W tej sekcji klikniesz też przycisk dostawcy Gemini API aby na tej stronie wyświetlały się treści specyficzne dla dostawcy. |
Możesz przyspieszyć interakcje, nie czekając na cały wynik generowania modelu, i zamiast tego użyć przesyłania strumieniowego do obsługi częściowych wyników.
Aby przesyłać odpowiedź strumieniowo, wywołaj funkcję generateContentStream.
Wymagania i zalecenia dotyczące wejściowych plików wideo
Pamiętaj, że plik podany jako dane w treści jest w trakcie przesyłania kodowany w base64, co zwiększa rozmiar żądania. Jeśli żądanie jest zbyt duże, otrzymasz błąd HTTP 413.
Szczegółowe informacje o tych kwestiach znajdziesz na stronie „Obsługiwane pliki wejściowe i wymagania”:
- Różne opcje podawania pliku w żądaniu (w treści lub za pomocą adresu URL albo URI pliku)
- Wymagania i sprawdzone metody dotyczące plików wideo
Obsługiwane typy MIME wideo
Gemini modele multimodalne obsługują te typy MIME wideo:
- FLV –
video/x-flv - MOV –
video/quicktime - MPEG –
video/mpeg - MPEGPS –
video/mpegps - MPG –
video/mpg - MP4 –
video/mp4 - WEBM –
video/webm - WMV –
video/wmv - 3GPP –
video/3gpp
Limity żądań
Maksymalna liczba plików w żądaniu: 10 plików wideo.
Co jeszcze możesz zrobić?
- Dowiedz się, jak zliczać tokeny przed wysłaniem do modelu długich promptów.
- Skonfiguruj Cloud Storage for Firebase , aby móc dołączać duże pliki do żądań multimodalnych i mieć bardziej zarządzane rozwiązanie do podawania plików w promptach. Pliki mogą zawierać obrazy, pliki PDF, filmy i dźwięk.
-
Zacznij przygotowywać się do wdrożenia (zapoznaj się z
listą kontrolną wdrożenia):
- Skonfiguruj Firebase App Check jak najszybciej, aby chronić Gemini API przed nadużyciami ze strony nieautoryzowanych klientów.
- Zintegruj Firebase Remote Config , aby aktualizować wartości w aplikacji (np. nazwę modelu) bez publikowania nowej wersji aplikacji .
Wypróbuj inne funkcje
- Twórz rozmowy wieloetapowe (czat).
- Generuj tekst na podstawie promptów zawierających tylko tekst.
- Generuj dane wyjściowe w uporządkowanej formie (np. JSON) na podstawie promptów tekstowych i multimodalnych.
- Generuj i edytuj obrazy na podstawie promptów tekstowych i multimodalnych.
- Używaj narzędzi (takich jak wywoływanie funkcji i powiązanie ze źródłami informacji przy użyciu wyszukiwarki Google) aby połączyć model Gemini z innymi częściami aplikacji oraz systemami i informacjami zewnętrznymi.
Dowiedz się, jak kontrolować generowanie treści
- Poznaj projektowanie promptów, w tym sprawdzone metody, strategie i przykładowe prompty.
- Skonfiguruj parametry modelu takie jak maksymalna liczba tokenów wyjściowych, prawdopodobieństwo powtórzenia tokenów wyjściowych itp.
- Użyj ustawień bezpieczeństwa, aby dostosować prawdopodobieństwo otrzymania odpowiedzi, które mogą być uznane za szkodliwe.
Więcej informacji o obsługiwanych modelach
Dowiedz się więcej o modelach dostępnych w różnych przypadkach użycia oraz o ich limitach i cenach.Prześlij opinię o korzystaniu z Firebase AI Logic