Alle Gemini-Modelle verwenden einen internen „Denkprozess“, der ihre Fähigkeiten in Bezug auf logisches Denken und mehrstufige Planung erheblich verbessert. Dadurch eignen sie sich hervorragend für komplexe Aufgaben wie Programmieren, fortgeschrittene Mathematik und Datenanalyse.
Thinking-Modelle bieten die folgenden Konfigurationen und Optionen:
Den Umfang der Überlegungen steuern
Sie können Denkebenen konfigurieren, um zu steuern, wie viel „Überlegung“ ein Modell anstellen kann. Diese Konfiguration ist besonders wichtig, wenn die Reduzierung von Latenz oder Kosten Priorität hat. Sehen Sie sich auch den Vergleich der Aufgabenschwierigkeiten an, um zu entscheiden, wie stark ein Modell seine Denkfähigkeit benötigt.Zusammenfassungen von Gedankengängen abrufen
Sie können Zusammenfassungen von Gedankengängen aktivieren, die in die generierte Antwort aufgenommen werden sollen. Diese Zusammenfassungen sind synthetisierte Versionen der Rohgedanken des Modells und bieten Einblicke in den internen Denkprozess des Modells.Gedankensignaturen verarbeiten
Die Firebase AI Logic-SDKs verarbeiten Gedankensignaturen automatisch für Sie. So hat das Modell Zugriff auf den Gedankenkontext aus vorherigen Zügen, insbesondere bei der Verwendung von Funktionsaufrufen.
Best Practices und Anleitung für Prompts für die Verwendung von Denkmodellen
Best Practices und Prompt-Anleitung für die Verwendung von Denkmodellen
Wir empfehlen, den Prompt in Google AI Studio oder Agent Studio zu testen, da Sie dort den gesamten Denkprozess sehen können. Sie können Bereiche identifizieren, in denen das Modell möglicherweise vom richtigen Weg abgekommen ist, und Ihre Prompts verfeinern, um konsistentere und genauere Antworten zu erhalten.
Beginnen Sie mit einem allgemeinen Prompt, der das gewünschte Ergebnis beschreibt, und beobachten Sie die ersten Überlegungen des Modells dazu, wie es seine Antwort ermittelt. Wenn die Antwort nicht Ihren Erwartungen entspricht, können Sie dem Modell mit einer der folgenden Prompting-Techniken helfen, eine bessere Antwort zu generieren:
- Detaillierte Anleitungen bereitstellen
- Mehrere Beispiele für Eingabe/Ausgabe-Paare angeben
- Geben Sie an, wie die Ausgabe und die Antworten formuliert und formatiert werden sollen.
- Geben Sie konkrete Schritte zur Bestätigung an.
Zusätzlich zu Prompts sollten Sie die folgenden Empfehlungen beachten:
Legen Sie Systemanweisungen fest. Diese sind wie eine „Präambel“, die Sie hinzufügen, bevor das Modell für weitere Anweisungen aus dem Prompt oder vom Endnutzer freigegeben wird. Damit können Sie das Verhalten des Modells entsprechend Ihrer spezifischen Anforderungen und Anwendungsfälle steuern.
Legen Sie einen Denkaufwand fest, um zu steuern, wie viel das Modell denken kann. Wenn Sie ihn hoch ansetzen, kann das Modell bei Bedarf mehr denken. Wenn Sie einen niedrigeren Wert festlegen, wird das Modell seine Antwort nicht „überdenken“. Außerdem wird ein größerer Teil des gesamten Token-Ausgabelimits für die eigentliche Antwort reserviert, was die Latenz und die Kosten reduzieren kann.
Aktivieren Sie KI-Monitoring in der Firebase-Konsole, um die Anzahl der Thinking-Tokens und die Latenz Ihrer Anfragen mit aktivierter Thinking-Funktion zu überwachen. Wenn Sie Zusammenfassungen von Gedankengängen aktiviert haben, werden diese in der Console angezeigt. Dort können Sie die detaillierten Überlegungen des Modells einsehen, um Ihre Prompts zu debuggen und zu verfeinern.
Umfang der Denkprozesse steuern
Sie können Thinking-Stufen konfigurieren, um zu steuern, wie viel „Denkarbeit“ und Argumentation ein Modell leisten kann, bevor es eine Antwort zurückgibt. Diese Konfiguration ist besonders wichtig, wenn die Reduzierung von Latenz oder Kosten Priorität hat.
Sehen Sie sich den Vergleich der Schwierigkeitsgrade von Aufgaben an, um zu entscheiden, wie viel Denkfähigkeit ein Modell benötigt. Hier sind einige allgemeine Hinweise:
- Legen Sie für weniger komplexe Aufgaben einen niedrigeren Wert für „Denken“ fest oder wenn die Reduzierung von Latenz oder Kosten für Sie Priorität hat.
- Legen Sie für komplexere Aufgaben einen höheren Wert für den Denkprozess fest.
Denkaufwand
Wenn Sie festlegen möchten, wie viel Denkarbeit ein Modell für die Generierung seiner Antwort leisten darf, können Sie ein Thinking-Level für die Anzahl der Tokens für den Thinking-Modus angeben, die es verwenden darf.
Denkaufwand festlegen
|
Klicken Sie auf Ihren Gemini API-Anbieter, um anbieterspezifische Inhalte und Code auf dieser Seite aufzurufen. |
Legen Sie den Denkaufwand in einem GenerationConfig beim Erstellen der GenerativeModel-Instanz fest. Die Konfiguration wird für die Lebensdauer der Instanz beibehalten. Wenn Sie für verschiedene Anfragen unterschiedliche Denkebenen verwenden möchten, erstellen Sie GenerativeModel-Instanzen, die mit den jeweiligen Ebenen konfiguriert sind.
Informationen zu den unterstützten Werten für den Denkaufwand finden Sie weiter unten in diesem Abschnitt.
Swift
Legen Sie den Denkaufwand in einem GenerationConfig beim Erstellen einer GenerativeModel-Instanz fest.
// ...
// Set the thinking configuration.
// Use a thinking level value appropriate for your model (example value shown here).
let generationConfig = GenerationConfig(
thinkingConfig: ThinkingConfig(thinkingLevel: .low)
)
// Specify the config as part of creating the `GenerativeModel` instance.
let model = FirebaseAI.firebaseAI(backend: .googleAI()).generativeModel(
modelName: "GEMINI_3.x_MODEL_NAME",
generationConfig: generationConfig
)
// ...
Kotlin
Legen Sie die Werte der Parameter in einem GenerationConfig fest, wenn Sie eine GenerativeModel-Instanz erstellen.
// ...
// Set the thinking configuration.
// Use a thinking level value appropriate for your model (example value shown here).
val generationConfig = generationConfig {
thinkingConfig = thinkingConfig {
thinkingLevel = ThinkingLevel.LOW
}
}
// Specify the config as part of creating the `GenerativeModel` instance.
val model = Firebase.ai(backend = GenerativeBackend.googleAI()).generativeModel(
modelName = "GEMINI_3.x_MODEL_NAME",
generationConfig,
)
// ...
Java
Legen Sie die Werte der Parameter in einer GenerationConfig fest, wenn Sie eine GenerativeModel-Instanz erstellen.
// ...
// Set the thinking configuration.
// Use a thinking level value appropriate for your model (example value shown here).
ThinkingConfig thinkingConfig = new ThinkingConfig.Builder()
.setThinkingLevel(ThinkingLevel.LOW)
.build();
GenerationConfig generationConfig = GenerationConfig.builder()
.setThinkingConfig(thinkingConfig)
.build();
// Specify the config as part of creating the `GenerativeModel` instance.
GenerativeModelFutures model = GenerativeModelFutures.from(
FirebaseAI.getInstance(GenerativeBackend.googleAI())
.generativeModel(
/* modelName */ "GEMINI_3.x_MODEL_NAME",
/* generationConfig */ generationConfig
);
);
// ...
Web
Legen Sie die Werte der Parameter in einem GenerationConfig fest, wenn Sie eine GenerativeModel-Instanz erstellen.
// ...
const ai = getAI(firebaseApp, { backend: new GoogleAIBackend() });
// Set the thinking configuration.
// Use a thinking level value appropriate for your model (example value shown here).
const generationConfig = {
thinkingConfig: {
thinkingLevel: ThinkingLevel.LOW
}
};
// Specify the config as part of creating the `GenerativeModel` instance.
const model = getGenerativeModel(ai, { model: "GEMINI_3.x_MODEL_NAME", generationConfig });
// ...
Dart
Legen Sie die Werte der Parameter in einem GenerationConfig fest, wenn Sie eine GenerativeModel-Instanz erstellen.
// ...
// Set the thinking configuration.
// Use a thinking level value appropriate for your model (example value shown here).
final thinkingConfig = ThinkingConfig.withThinkingLevel(ThinkingLevel.low);
final generationConfig = GenerationConfig(
thinkingConfig: thinkingConfig
);
// Specify the config as part of creating the `GenerativeModel` instance.
final model = FirebaseAI.googleAI().generativeModel(
model: 'GEMINI_3.x_MODEL_NAME',
config: generationConfig,
);
// ...
Einheit
Legen Sie die Werte der Parameter in einer GenerationConfig fest, wenn Sie eine GenerativeModel-Instanz erstellen.
// ...
// Set the thinking configuration.
// Use a thinking level value appropriate for your model (example value shown here).
var thinkingConfig = new ThinkingConfig(thinkingLevel: ThinkingLevel.Low);
var generationConfig = new GenerationConfig(
thinkingConfig: thinkingConfig
);
// Specify the config as part of creating the `GenerativeModel` instance.
var model = FirebaseAI.GetInstance(FirebaseAI.Backend.GoogleAI()).GetGenerativeModel(
modelName: "GEMINI_3.x_MODEL_NAME",
generationConfig: generationConfig
);
// ...
Unterstützte Werte für den Denkaufwand
In der folgenden Tabelle sind die Werte für die Denkstufe aufgeführt, die Sie für jedes Modell festlegen können, indem Sie die thinkingLevel des Modells konfigurieren.
MINIMAL |
LOW |
MEDIUM |
HIGH |
|
|---|---|---|---|---|
|
Das Modell verwendet so wenige Tokens wie möglich; es gibt kaum Denkprozesse. Aufgaben mit geringer Komplexität |
Das Modell verwendet weniger Tokens, wodurch Latenz und Kosten minimiert werden. Einfache Aufgaben und Aufgaben mit hohem Durchsatz |
Das Modell verfolgt einen ausgewogenen Ansatz. Aufgaben mittlerer Komplexität |
Das Modell verwendet Tokens bis zum maximalen Level Komplexe Prompts, die tiefes logisches Denken erfordern |
|
Gemini 4 Argongemini-4-argon
|
1 | (Standard) | ||
Gemini 3.x Progemini-3.1-pro-preview
|
(Standard) | |||
Gemini 3.x Flashgemini-3.8-flashgemini-3.7-flashgemini-3.6-flashgemini-3.5-flash
|
Nicht unterstützt von gemini-3.8-flashgemini-3.7-flash |
(Standard) | ||
Gemini 3.x Flash‑Litegemini-3.5-flash-litegemini-3.1-flash-lite
|
(Standard) | |||
Gemini 3.x Pro Imagegemini-3-pro-image("Nano Banana Pro") |
(Standard) | |||
Gemini 3.x Flash Imagegemini-3.1-flash-image("Nano Banana 2") |
(Standard) | |||
Gemini 3.x Flash‑Lite Imagegemini-3.1-flash-lite-image("Nano Banana 2 Lite") |
(Standard) |
1 gemini-4-argon, gemini-3.8-flash und gemini-3.7-flash unterstützen nicht den Denkaufwand MINIMAL. Wenn Sie den Denkaufwand auf MINIMAL festlegen, schlägt die Anfrage mit einem 400-Fehler fehl.
Budgets für die Denkphase (Gemini 2.5-Modelle)
Wenn Sie festlegen möchten, wie viel Denkprozess ein Gemini 2.5-Modell für die Generierung seiner Antwort verwenden darf, können Sie ein Thinking-Budget für die Anzahl der Tokens angeben, die es verwenden darf.
Komplexität der Aufgabe für alle Denkmodelle
Einfache Aufgaben – Nachdenken ist nicht so wichtig
Einfache Anfragen, bei denen kein komplexes logisches Denken erforderlich ist, z. B. das Abrufen von Fakten oder die Klassifizierung. Beispiele:- „Where was DeepMind founded?“ (Wo wurde DeepMind gegründet?)
- „Wird in dieser E-Mail um ein Treffen gebeten oder werden nur Informationen bereitgestellt?“
Mittelschwere Aufgaben – es ist wahrscheinlich etwas Nachdenken erforderlich
Häufige Anfragen, die von einer schrittweisen Verarbeitung oder einem tieferen Verständnis profitieren. Beispiele:- „Erstelle eine Analogie zwischen Photosynthese und Erwachsenwerden.“
- „Vergleiche Elektroautos und Hybridautos und stelle die Unterschiede heraus.“
Schwierige Aufgaben – maximales Denken kann erforderlich sein
Wirklich komplexe Herausforderungen, z. B. das Lösen komplexer mathematischer Probleme oder Programmieraufgaben. Bei diesen Arten von Aufgaben muss das Modell seine gesamten Denk- und Planungsfähigkeiten einsetzen. Oft sind viele interne Schritte erforderlich, bevor eine Antwort gegeben wird. Beispiele:- „Löse Problem 1 in AIME 2025: Finde die Summe aller ganzzahligen Basen b > 9, für die 17b ein Teiler von 97b ist.“
- "Schreibe Python-Code für eine Webanwendung, die Echtzeit-Aktienmarktdaten visualisiert, einschließlich Nutzerauthentifizierung. Gestalte es so effizient wie möglich.“
Zusammenfassungen der Gedanken
Zusammenfassungen der Gedanken sind synthetisierte Versionen der rohen Gedanken des Modells und bieten Einblicke in den internen Prozess der Problemlösung des Modells.
Hier sind einige Gründe, warum Sie Zusammenfassungen der Überlegungen in Antworten einfügen sollten:
Sie können die Zusammenfassung der Überlegungen in der Benutzeroberfläche Ihrer App anzeigen oder Ihren Nutzern zur Verfügung stellen. Die Zusammenfassung der Gedanken wird als separater Teil in der Antwort zurückgegeben, damit Sie mehr Kontrolle darüber haben, wie sie in Ihrer Anwendung verwendet wird.
Wenn Sie auch KI-Monitoring in der Firebase-Konsole aktivieren, werden in der Konsole Zusammenfassungen der Überlegungen angezeigt. Dort können Sie die detaillierte Argumentation des Modells prüfen, um Ihre Prompts zu debuggen und zu optimieren.
Hier sind einige wichtige Hinweise zu Zusammenfassungen von Gedanken:
Zusammenfassungen des Denkprozesses werden nicht durch Budgets für Denkprozesse gesteuert. Budgets gelten nur für die Rohgedanken des Modells. Wenn jedoch Thinking deaktiviert ist, gibt das Modell keine Zusammenfassung der Gedanken zurück.
Gedankenzusammenfassungen gelten als Teil der regulären Antwort des Modells in generiertem Text und werden als Ausgabetokens gezählt.
Zusammenfassungen von Gedanken aktivieren
|
Klicken Sie auf Ihren Gemini API-Anbieter, um anbieterspezifische Inhalte und Code auf dieser Seite aufzurufen. |
Sie können Gedankenzusammenfassungen aktivieren, indem Sie includeThoughts in Ihrer Modellkonfiguration auf „true“ setzen. Sie können dann auf die Zusammenfassung zugreifen, indem Sie das Feld thoughtSummary in der Antwort prüfen.
Hier ein Beispiel, wie Sie Gedankenzusammenfassungen mit der Antwort aktivieren und abrufen:
Swift
Aktivieren Sie Zusammenfassungen der Gedanken in GenerationConfig, wenn Sie eine GenerativeModel-Instanz erstellen.
// ...
// Set the thinking configuration.
// Optionally enable thought summaries in the generated response (default is false).
let generationConfig = GenerationConfig(
thinkingConfig: ThinkingConfig(includeThoughts: true)
)
// Specify the config as part of creating the `GenerativeModel` instance.
let model = FirebaseAI.firebaseAI(backend: .googleAI()).generativeModel(
modelName: "GEMINI_MODEL_NAME",
generationConfig: generationConfig
)
let response = try await model.generateContent("solve x^2 + 4x + 4 = 0")
// Handle the response that includes thought summaries.
if let thoughtSummary = response.thoughtSummary {
print("Thought Summary: \(thoughtSummary)")
}
guard let text = response.text else {
fatalError("No text in response.")
}
print("Answer: \(text)")
Kotlin
Aktivieren Sie Zusammenfassungen der Gedanken in GenerationConfig, wenn Sie eine GenerativeModel-Instanz erstellen.
// ...
// Set the thinking configuration.
// Optionally enable thought summaries in the generated response (default is false).
val generationConfig = generationConfig {
thinkingConfig = thinkingConfig {
includeThoughts = true
}
}
// Specify the config as part of creating the `GenerativeModel` instance.
val model = Firebase.ai(backend = GenerativeBackend.googleAI()).generativeModel(
modelName = "GEMINI_MODEL_NAME",
generationConfig,
)
val response = model.generateContent("solve x^2 + 4x + 4 = 0")
// Handle the response that includes thought summaries.
response.thoughtSummary?.let {
println("Thought Summary: $it")
}
response.text?.let {
println("Answer: $it")
}
Java
Aktivieren Sie Gedankenzusammenfassungen in der GenerationConfig, wenn Sie eine GenerativeModel-Instanz erstellen.
// ...
// Set the thinking configuration.
// Optionally enable thought summaries in the generated response (default is false).
ThinkingConfig thinkingConfig = new ThinkingConfig.Builder()
.setIncludeThoughts(true)
.build();
GenerationConfig generationConfig = GenerationConfig.builder()
.setThinkingConfig(thinkingConfig)
.build();
// Specify the config as part of creating the `GenerativeModel` instance.
GenerativeModelFutures model = GenerativeModelFutures.from(
FirebaseAI.getInstance(GenerativeBackend.googleAI())
.generativeModel(
/* modelName */ "GEMINI_MODEL_NAME",
/* generationConfig */ generationConfig
);
);
// Handle the response that includes thought summaries.
ListenableFuture responseFuture = model.generateContent("solve x^2 + 4x + 4 = 0");
Futures.addCallback(responseFuture, new FutureCallback() {
@Override
public void onSuccess(GenerateContentResponse response) {
if (response.getThoughtSummary() != null) {
System.out.println("Thought Summary: " + response.getThoughtSummary());
}
if (response.getText() != null) {
System.out.println("Answer: " + response.getText());
}
}
@Override
public void onFailure(Throwable t) {
// Handle error
}
}, MoreExecutors.directExecutor());
Web
Aktivieren Sie Gedankenzusammenfassungen in der GenerationConfig, wenn Sie eine GenerativeModel-Instanz erstellen.
// ...
const ai = getAI(firebaseApp, { backend: new GoogleAIBackend() });
// Set the thinking configuration.
// Optionally enable thought summaries in the generated response (default is false).
const generationConfig = {
thinkingConfig: {
includeThoughts: true
}
};
// Specify the config as part of creating the `GenerativeModel` instance.
const model = getGenerativeModel(ai, { model: "GEMINI_MODEL_NAME", generationConfig });
const result = await model.generateContent("solve x^2 + 4x + 4 = 0");
const response = result.response;
// Handle the response that includes thought summaries.
if (response.thoughtSummary()) {
console.log(`Thought Summary: ${response.thoughtSummary()}`);
}
const text = response.text();
console.log(`Answer: ${text}`);
Dart
Aktivieren Sie Gedankenzusammenfassungen im GenerationConfig, wenn Sie eine GenerativeModel-Instanz erstellen.
// ...
// Set the thinking configuration.
// Optionally enable thought summaries in the generated response (default is false).
final thinkingConfig = ThinkingConfig(includeThoughts: true);
final generationConfig = GenerationConfig(
thinkingConfig: thinkingConfig
);
// Specify the config as part of creating the `GenerativeModel` instance.
final model = FirebaseAI.googleAI().generativeModel(
model: 'GEMINI_MODEL_NAME',
generationConfig: generationConfig,
);
final response = await model.generateContent('solve x^2 + 4x + 4 = 0');
// Handle the response that includes thought summaries.
if (response.thoughtSummary != null) {
print('Thought Summary: ${response.thoughtSummary}');
}
if (response.text != null) {
print('Answer: ${response.text}');
}
Einheit
Aktivieren Sie Zusammenfassungen der Gedanken in GenerationConfig, wenn Sie eine GenerativeModel-Instanz erstellen.
// ...
// Set the thinking configuration.
// Optionally enable thought summaries in the generated response (default is false).
var thinkingConfig = new ThinkingConfig(includeThoughts: true);
var generationConfig = new GenerationConfig(
thinkingConfig: thinkingConfig
);
// Specify the config as part of creating the `GenerativeModel` instance.
var model = FirebaseAI.GetInstance(FirebaseAI.Backend.GoogleAI()).GetGenerativeModel(
modelName: "GEMINI_MODEL_NAME",
generationConfig: generationConfig
);
var response = await model.GenerateContentAsync("solve x^2 + 4x + 4 = 0");
// Handle the response that includes thought summaries.
if (response.ThoughtSummary != null) {
Debug.Log($"Thought Summary: {response.ThoughtSummary}");
}
if (response.Text != null) {
Debug.Log($"Answer: {response.Text}");
}
Zusammenfassungen der Gedanken streamen
Wenn Sie eine Antwort mit generateContentStream streamen, können Sie auch Zusammenfassungen der Überlegungen aufrufen. Dadurch werden während der Antwortgenerierung fortlaufende, inkrementelle Zusammenfassungen zurückgegeben.
Swift
Aktivieren Sie Gedankenzusammenfassungen in der GenerationConfig, wenn Sie eine GenerativeModel-Instanz erstellen.
// ...
// Set the thinking configuration.
// Optionally enable thought summaries in the generated response (default is false).
let generationConfig = GenerationConfig(
thinkingConfig: ThinkingConfig(includeThoughts: true)
)
// Specify the config as part of creating the `GenerativeModel` instance.
let model = FirebaseAI.firebaseAI(backend: .googleAI()).generativeModel(
modelName: "GEMINI_MODEL_NAME",
generationConfig: generationConfig
)
let stream = try model.generateContentStream("solve x^2 + 4x + 4 = 0")
// Handle the streamed response that includes thought summaries.
var thoughts = ""
var answer = ""
for try await response in stream {
if let thought = response.thoughtSummary {
if thoughts.isEmpty {
print("--- Thoughts Summary ---")
}
print(thought)
thoughts += thought
}
if let text = response.text {
if answer.isEmpty {
print("--- Answer ---")
}
print(text)
answer += text
}
}
Kotlin
Aktivieren Sie Zusammenfassungen der Gedanken in GenerationConfig, wenn Sie eine GenerativeModel-Instanz erstellen.
// ...
// Set the thinking configuration.
// Optionally enable thought summaries in the generated response (default is false).
val generationConfig = generationConfig {
thinkingConfig = thinkingConfig {
includeThoughts = true
}
}
// Specify the config as part of creating the `GenerativeModel` instance.
val model = Firebase.ai(backend = GenerativeBackend.googleAI()).generativeModel(
modelName = "GEMINI_MODEL_NAME",
generationConfig,
)
// Handle the streamed response that includes thought summaries.
var thoughts = ""
var answer = ""
model.generateContentStream("solve x^2 + 4x + 4 = 0").collect { response ->
response.thoughtSummary?.let {
if (thoughts.isEmpty()) {
println("--- Thoughts Summary ---")
}
print(it)
thoughts += it
}
response.text?.let {
if (answer.isEmpty()) {
println("--- Answer ---")
}
print(it)
answer += it
}
}
Java
Aktivieren Sie Gedankenzusammenfassungen in der GenerationConfig, wenn Sie eine GenerativeModel-Instanz erstellen.
// ...
// Set the thinking configuration.
// Optionally enable thought summaries in the generated response (default is false).
ThinkingConfig thinkingConfig = new ThinkingConfig.Builder()
.setIncludeThoughts(true)
.build();
GenerationConfig generationConfig = GenerationConfig.builder()
.setThinkingConfig(thinkingConfig)
.build();
// Specify the config as part of creating the `GenerativeModel` instance.
GenerativeModelFutures model = GenerativeModelFutures.from(
FirebaseAI.getInstance(GenerativeBackend.googleAI())
.generativeModel(
/* modelName */ "GEMINI_MODEL_NAME",
/* generationConfig */ generationConfig
);
);
// Streaming with Java is complex and depends on the async library used.
// This is a conceptual example using a reactive stream.
Flowable responseStream = model.generateContentStream("solve x^2 + 4x + 4 = 0");
// Handle the streamed response that includes thought summaries
StringBuilder thoughts = new StringBuilder();
StringBuilder answer = new StringBuilder();
responseStream.subscribe(response -> {
if (response.getThoughtSummary() != null) {
if (thoughts.length() == 0) {
System.out.println("--- Thoughts Summary ---");
}
System.out.print(response.getThoughtSummary());
thoughts.append(response.getThoughtSummary());
}
if (response.getText() != null) {
if (answer.length() == 0) {
System.out.println("--- Answer ---");
}
System.out.print(response.getText());
answer.append(response.getText());
}
}, throwable -> {
// Handle error
});
Web
Aktivieren Sie Zusammenfassungen der Gedanken in GenerationConfig, wenn Sie eine GenerativeModel-Instanz erstellen.
// ...
const ai = getAI(firebaseApp, { backend: new GoogleAIBackend() });
// Set the thinking configuration.
// Optionally enable thought summaries in the generated response (default is false).
const generationConfig = {
thinkingConfig: {
includeThoughts: true
}
};
// Specify the config as part of creating the `GenerativeModel` instance.
const model = getGenerativeModel(ai, { model: "GEMINI_MODEL_NAME", generationConfig });
const result = await model.generateContentStream("solve x^2 + 4x + 4 = 0");
// Handle the streamed response that includes thought summaries.
let thoughts = "";
let answer = "";
for await (const chunk of result.stream) {
if (chunk.thoughtSummary()) {
if (thoughts === "") {
console.log("--- Thoughts Summary ---");
}
// In Node.js, process.stdout.write(chunk.thoughtSummary()) could be used
// to avoid extra newlines.
console.log(chunk.thoughtSummary());
thoughts += chunk.thoughtSummary();
}
const text = chunk.text();
if (text) {
if (answer === "") {
console.log("--- Answer ---");
}
// In Node.js, process.stdout.write(text) could be used.
console.log(text);
answer += text;
}
}
Dart
Aktivieren Sie Zusammenfassungen von Gedanken in GenerationConfig, wenn Sie eine GenerativeModel-Instanz erstellen.
// ...
// Set the thinking configuration.
// Optionally enable thought summaries in the generated response (default is false).
final thinkingConfig = ThinkingConfig(includeThoughts: true);
final generationConfig = GenerationConfig(
thinkingConfig: thinkingConfig
);
// Specify the config as part of creating the `GenerativeModel` instance.
final model = FirebaseAI.googleAI().generativeModel(
model: 'GEMINI_MODEL_NAME',
generationConfig: generationConfig,
);
final responses = model.generateContentStream('solve x^2 + 4x + 4 = 0');
// Handle the streamed response that includes thought summaries.
var thoughts = '';
var answer = '';
await for (final response in responses) {
if (response.thoughtSummary != null) {
if (thoughts.isEmpty) {
print('--- Thoughts Summary ---');
}
thoughts += response.thoughtSummary!;
}
if (response.text != null) {
if (answer.isEmpty) {
print('--- Answer ---');
}
answer += response.text!;
}
}
Einheit
Aktivieren Sie Gedankenzusammenfassungen in der GenerationConfig, wenn Sie eine GenerativeModel-Instanz erstellen.
// ...
// Set the thinking configuration.
// Optionally enable thought summaries in the generated response (default is false).
var thinkingConfig = new ThinkingConfig(includeThoughts: true);
var generationConfig = new GenerationConfig(
thinkingConfig: thinkingConfig
);
// Specify the config as part of creating the `GenerativeModel` instance.
var model = FirebaseAI.GetInstance(FirebaseAI.Backend.GoogleAI()).GetGenerativeModel(
modelName: "GEMINI_MODEL_NAME",
generationConfig: generationConfig
);
var stream = model.GenerateContentStreamAsync("solve x^2 + 4x + 4 = 0");
// Handle the streamed response that includes thought summaries.
var thoughts = "";
var answer = "";
await foreach (var response in stream)
{
if (response.ThoughtSummary != null)
{
if (string.IsNullOrEmpty(thoughts))
{
Debug.Log("--- Thoughts Summary ---");
}
Debug.Log(response.ThoughtSummary);
thoughts += response.ThoughtSummary;
}
if (response.Text != null)
{
if (string.IsNullOrEmpty(answer))
{
Debug.Log("--- Answer ---");
}
Debug.Log(response.Text);
answer += response.Text;
}
}
Gedankensignaturen
Wenn Sie „Thinking“ in Multi-Turn-Interaktionen verwenden, hat das Modell keinen Zugriff auf den Kontext von Gedanken aus vorherigen Turns. Wenn Sie jedoch Funktionsaufrufe verwenden, können Sie Gedankensignaturen nutzen, um den Kontext über mehrere Turns hinweg beizubehalten. Gedankensignaturen sind verschlüsselte Darstellungen des internen Denkprozesses des Modells. Sie sind verfügbar, wenn Sie die Funktion „thinking“ und „Funktionsaufrufe“ verwenden. Thought-Signaturen werden in folgenden Fällen generiert:
- Der Denkprozess ist aktiviert und es werden Gedanken generiert.
- Die Anfrage enthält Funktionsdeklarationen.
Wenn Sie Gedankensignaturen nutzen möchten, verwenden Sie Funktionsaufrufe wie gewohnt.
Die Firebase AI Logic SDKs vereinfachen den Prozess, indem sie den Status verwalten und Gedankensignaturen automatisch für Sie verarbeiten. Die SDKs übergeben automatisch alle generierten Gedankensignaturen zwischen aufeinanderfolgenden sendMessage- oder sendMessageStream-Aufrufen in einer Chat-Sitzung.
Preise und Zählen von Denk-Tokens
Für „Thinking“-Tokens gilt dieselbe Preisgestaltung wie für Textausgabe-Tokens. Wenn Sie Zusammenfassungen von Gedanken aktivieren, werden sie als Denk-Tokens betrachtet und entsprechend berechnet.
Sie können das KI-Monitoring in der Firebase-Konsole aktivieren, um die Anzahl der Denk-Tokens für Anfragen zu überwachen, für die das Denken aktiviert ist.
Die Gesamtzahl der Thinking-Tokens finden Sie im Feld thoughtsTokenCount des Attributs usageMetadata der Antwort:
Swift
// ...
let response = try await model.generateContent("Why is the sky blue?")
if let usageMetadata = response.usageMetadata {
print("Thoughts Token Count: \(usageMetadata.thoughtsTokenCount)")
}
Kotlin
// ...
val response = model.generateContent("Why is the sky blue?")
response.usageMetadata?.let { usageMetadata ->
println("Thoughts Token Count: ${usageMetadata.thoughtsTokenCount}")
}
Java
// ...
ListenableFuture<GenerateContentResponse> response =
model.generateContent("Why is the sky blue?");
Futures.addCallback(response, new FutureCallback<GenerateContentResponse>() {
@Override
public void onSuccess(GenerateContentResponse result) {
String usageMetadata = result.getUsageMetadata();
if (usageMetadata != null) {
System.out.println("Thoughts Token Count: " +
usageMetadata.getThoughtsTokenCount());
}
}
@Override
public void onFailure(Throwable t) {
t.printStackTrace();
}
}, executor);
Web
// ...
const response = await model.generateContent("Why is the sky blue?");
if (response?.usageMetadata?.thoughtsTokenCount != null) {
console.log(`Thoughts Token Count: ${response.usageMetadata.thoughtsTokenCount}`);
}
Dart
// ...
final response = await model.generateContent(
Content.text("Why is the sky blue?"),
]);
if (response?.usageMetadata case final usageMetadata?) {
print("Thoughts Token Count: ${usageMetadata.thoughtsTokenCount}");
}
Einheit
// ...
var response = await model.GenerateContentAsync("Why is the sky blue?");
if (response.UsageMetadata != null)
{
UnityEngine.Debug.Log($"Thoughts Token Count: {response.UsageMetadata?.ThoughtsTokenCount}");
}
Weitere Informationen zu Tokens