Mit Firebase AI Logic können Sie KI-basierte Apple-Apps und ‑Funktionen mit hybrider Inferenz erstellen. Die hybride Inferenz ermöglicht es, die Inferenz mit On-Device-Modellen (insbesondere dem Foundation Models-Framework von Apple) auszuführen, sofern verfügbar. Andernfalls wird nahtlos auf in der Cloud gehostete Google-Modelle zurückgegriffen (und umgekehrt).
Auf dieser Seite werden die ersten Schritte mit dem Client-SDK beschrieben. Nachdem Sie diese Standardeinrichtung abgeschlossen haben, können Sie sich die zusätzlichen Konfigurationsoptionen und Funktionen ansehen.
Die On-Device-Inferenz über Firebase AI Logic wird für Apple-Apps unterstützt, die das Firebase AI Logic SDK ab Version 12.13.0 verwenden und auf Geräten mit aktivierter Apple Intelligence ausgeführt werden. Es unterliegt den Anforderungen für die zulässige Verwendung des Foundation Models-Frameworks von Apple.
Zu den Codebeispielen springen
Anwendungsfälle und unterstützte Funktionen
Je nach Anwendungsfall Ihrer App können Sie von mehreren Vorteilen von On-Device- oder Hybrid-Funktionen profitieren:
Vorteile der Verwendung eines On-Device-Modells für die Inferenz:
- Erweiterter Datenschutz
- Lokaler Kontext
- Kostenlose Inferenz
- Offline-Funktionen
Vorteile eines hybriden Ansatzes:
- Eine ähnliche App-Nutzung unabhängig vom Gerät des Endnutzers bieten
- Verbesserung der Verfügbarkeit von auf generativer KI basierenden Funktionen, unabhängig von Internetverbindung, Kontingentbeschränkungen oder Gerätefunktionen
Unterstützte Inferenzfunktionen auf dem Gerät
Die On-Device-Inferenz unterstützt nur die Textgenerierung, insbesondere die folgenden Funktionen:
Strukturierte Ausgabe generieren, einschließlich JSON und Enums. (Dokumente folgen bald!)
Sehen Sie sich die Liste der noch nicht unterstützten Funktionen für die hybride oder On-Device-Inferenz unten auf dieser Seite an.
Unterstützte APIs und Geräte
In den folgenden Abschnitten werden die unterstützten APIs sowie die unterstützten Geräte (und ihre On-Device-Modelle) beschrieben.
Unterstützte APIs für die Inferenz in der Cloud im Vergleich zur Inferenz auf dem Gerät
Für die In-Cloud-Inferenz wird der von Ihnen ausgewählte Gemini API-Anbieter (entweder Gemini Developer API oder Agent Platform Gemini API (formerly Vertex AI)) verwendet.
Für die On-Device-Inferenz wird das Foundation Models-Framework von Apple verwendet, das nur auf Geräten mit aktivierter Apple Intelligence verfügbar ist. Das On-Device-Modell wird automatisch heruntergeladen, wenn Apple Intelligence aktiviert ist.
Unterstützte Apple-Geräte und ihre On-Device-Modelle
Für die On-Device-Inferenz (die das Foundation Models-Framework von Apple verwendet) finden Sie in der Apple-Dokumentation eine Liste der Geräte mit aktivierter Apple Intelligence.
Jetzt starten
In diesen Schritten wird die erforderliche allgemeine Einrichtung für alle unterstützten Prompt-Anfragen beschrieben, die Sie senden möchten.
Schritt 1: Firebase-Projekt einrichten und App mit Firebase verbinden
Melden Sie sich in der Firebase-Konsole an und wählen Sie Ihr Firebase-Projekt aus.
Rufen Sie in der Firebase-Konsole KI-Dienste > AI Logic auf.
Klicken Sie auf Jetzt starten, um einen geführten Workflow zu starten, mit dem Sie die erforderlichen APIs und Ressourcen für Ihr Projekt einrichten können.
Folgen Sie bei Aufforderung der Anleitung auf dem Bildschirm, um Ihre App zu registrieren und die Firebase-Konfiguration hinzuzufügen.
Wenn Sie aufgefordert werden, einen „Gemini API-Anbieter“ auszuwählen, empfehlen wir die Gemini Developer API. Damit können Sie schnell und kostenlos loslegen.
Sie können die Agent Platform Gemini API (formerly Vertex AI) (und die Abrechnungsanforderung) jederzeit später einrichten.
Fahren Sie im Workflow fort, um die erforderlichen APIs und zugehörigen Dienste für Firebase AI Logic einzurichten.
In dieser Phase des Workflows wird automatisch Firebase App Check für AI Logic erzwungen. Dies ist ein wichtiger Dienst, der zum Schutz von Gemini API beiträgt, wenn direkt über Ihre Anwendung darauf zugegriffen wird. Im Rahmen der ersten Schritte (siehe Schritte weiter unten in diesem Leitfaden) müssen Sie den App Check-Debug-Anbieter für die lokale Entwicklung konfigurieren, wenn App Check erzwungen wird.
Fahren Sie mit dem nächsten Schritt in dieser Anleitung fort, um die erforderlichen SDKs zu Ihrer App hinzuzufügen.
Schritt 2: Erforderliche SDKs hinzufügen
Verwenden Sie Swift Package Manager (SPM), um Xcode-Abhängigkeiten zu installieren und zu verwalten. Der Hybrid-Support ist nur bei Verwendung von SPV verfügbar.
Die Bibliothek Firebase AI Logic bietet Zugriff auf die APIs für die Interaktion mit generativen Modellen. Die Bibliothek ist im Firebase SDK für Apple-Plattformen (firebase-ios-sdk) enthalten.
Wenn Sie Firebase bereits verwenden, muss Ihr Firebase-Paket die Version 12.13.0 oder höher haben.
Öffnen Sie Ihr App-Projekt und gehen Sie in Xcode zu File > Add Package Dependencies (Datei > Paketabhängigkeiten hinzufügen).
Fügen Sie bei entsprechender Aufforderung das Firebase Apple Platforms SDK-Repository hinzu:
https://github.com/firebase/firebase-ios-sdkWählen Sie die neueste SDK-Version aus.
Wählen Sie die Bibliotheken
FirebaseAILogicundFirebaseAppCheckaus.
Anschließend löst Xcode die Abhängigkeiten automatisch auf und lädt sie im Hintergrund herunter.
Schritt 3: App Check-Debug-Anbieter für die lokale Entwicklung konfigurieren
Im Rahmen des geführten Einrichtungsworkflows für AI Logic in der Console wird Firebase App Check automatisch erzwungen, um die Gemini API zu schützen. Für die lokale Entwicklung müssen Sie den App Check-Debug-Anbieter so konfigurieren, dass die Attestierung umgangen wird, während die Erzwingung von App Check beibehalten wird.
So verwenden Sie den Debug-Anbieter, wenn Sie Ihre App interaktiv in einem Simulator ausführen (z. B. während der lokalen Entwicklung):
Importieren Sie in Ihrem Xcode-Projekt
FirebaseAppCheckund initialisieren Sie App Check mit der Debug-Anbieter-Factory, bevor SieFirebasekonfigurieren.import SwiftUI import FirebaseCore import FirebaseAppCheck @main struct YourApp: App { init() { let providerFactory = AppCheckDebugProviderFactory() AppCheck.setAppCheckProviderFactory(providerFactory) FirebaseApp.configure() } var body: some Scene { WindowGroup { NavigationView { ContentView() } } } }Rufen Sie Ihr Debug-Token ab:
Starten Sie die App im Simulator oder auf Ihrem Testgerät.
Öffnen Sie die Xcode-Konsole und suchen Sie nach dem App Check-Debug-Token. Beispiel:
<Warning> [AppCheckCore][I-GAC004001] App Check debug token: '123a4567-b89c-12d3-e456-789012345678'.Kopieren Sie das Token (z. B.
123a4567-b89c-12d3-e456-789012345678).
Registrieren Sie Ihr Debug-Token bei App Check:
Rufen Sie in der Firebase-Konsole den Tab Sicherheit > App Check > Apps auf.
Suchen Sie Ihre App, klicken Sie auf das Dreipunkt-Menü () und wählen Sie Debug-Tokens verwalten aus.
Folgen Sie der Anleitung auf dem Bildschirm, um Ihr Debug-Token zu registrieren.
Weitere Informationen zum Debug-Anbieter (einschließlich des Abrufs eines neuen Debug-Tokens) finden Sie in der offiziellen App Check-Dokumentation.
Schritt 4: Dienst initialisieren und Modellsitzungsinstanz erstellen
|
Klicken Sie auf Ihren Gemini API-Anbieter, um anbieterspezifische Inhalte und Code auf dieser Seite aufzurufen. |
Richten Sie Folgendes ein, bevor Sie eine Prompt-Anfrage an das Modell senden.
Initialisieren Sie den Dienst für den ausgewählten Gemini API-Anbieter.
Erstellen Sie eine
GenerativeModelSession-Instanz mit einemHybridModel.Legen Sie die Modelle
primaryundsecondarynach Ihren Wünschen fest. Sie können die Reihenfolge der versuchten Inferenz festlegen:Zuerst On-Device-Inferenz versuchen, aber Fallback auf die Cloud zulassen: Setzen Sie
primaryauf ein „System“-Modell undsecondaryauf ein Cloud-Modell.Zuerst Inferenz in der Cloud versuchen, aber Fallback auf dem Gerät zulassen: Legen Sie für
primaryein Cloud-Modell und fürsecondaryein „System“-Modell fest.
Beachten Sie, dass das SDK nur einen einzelnen
modelunterstützt. Das bedeutet, dass das SDK nur entweder die On-Device- oder die In-Cloud-Inferenz versucht. Für eine hybride Umgebung müssen Sie jedoch eineHybridModelerstellen und sowohlprimary- als auchsecondary-Modelle festlegen.Weitere Informationen zum Verhalten von „Inferenzmodi“ (die Reihenfolge der versuchten Inferenz) finden Sie unter Konfigurationsoptionen.
Im folgenden Beispiel wird gezeigt, wie Sie zuerst die On-Device-Inferenz versuchen, aber ein Fallback auf das in der Cloud gehostete Modell zulassen:
// Initialize the Gemini Developer API backend service.
let ai = FirebaseAI.firebaseAI(backend: .googleAI())
// Initialize a cloud model that supports your use case.
let cloudModel = ai.geminiModel(name: "GEMINI_MODEL_NAME")
// Initialize an on-device model that supports your use case.
let systemModel = FirebaseAI.SystemLanguageModel.default
// Create a Hybrid Model.
// Provide your preferred model as `primary` and your fallback model as `secondary`.
// In this example, attempt to use on-device model; otherwise, fall back to cloud.
let hybridModel = HybridModel(
primary: systemModel,
secondary: cloudModel
)
// Create a GenerativeModelSession with the HybridModel created earlier.
let session = firebaseAI.generativeModelSession(
model: hybridModel,
)
Schritt 5: Prompt-Anfrage an ein Modell senden
In diesem Abschnitt wird Folgendes beschrieben:
Text aus Nur-Text-Eingabe generieren
| Bevor Sie dieses Beispiel ausprobieren, müssen Sie den Abschnitt Erste Schritte in diesem Leitfaden abgeschlossen haben. |
Wenn Sie Text aus einem Prompt generieren möchten, der Text enthält, verwenden Sie respond(to:) so:
// Imports + initialization of Gemini API backend service + creation of model session
// Provide a prompt that contains text
let prompt = "Write a story about a magic backpack."
// To generate text output, call `respond(to:)` with the text input
let response = try await session.respond(to: prompt)
print(response.content)
Generierten Text aus Nur-Text-Eingabe streamen
| Bevor Sie dieses Beispiel ausprobieren, müssen Sie den Abschnitt Erste Schritte in diesem Leitfaden abgeschlossen haben. |
Sie können schnellere Interaktionen erzielen, wenn Sie nicht auf das gesamte Ergebnis der Modellgenerierung warten, sondern stattdessen Streaming verwenden, um Teilergebnisse zu verarbeiten. Wenn Sie generierten Text aus einem Prompt mit Text streamen möchten, verwenden Sie streamResponse(to:) so:
// Imports + initialization of Gemini API backend service + creation of model session
// Provide a prompt that contains text
let prompt = "Write a story about a magic backpack."
// To stream generated text output, call `streamResponse(to:)` with the text input
let stream = session.streamResponse(to: prompt)
for try await snapshot in stream {
print(snapshot.content)
}
Was kannst du sonst noch alles für mich tun?
Sie können verschiedene zusätzliche Konfigurationsoptionen und Funktionen für Ihre Hybridumgebungen verwenden:
Noch nicht unterstützte Funktionen
Da es sich um eine experimentelle Version handelt, sind nicht alle Funktionen von in der Cloud gehosteten Modellen oder des Firebase AI Logic SDK für die hybride oder On-Device-Inferenz verfügbar.
Funktionen, die für Hybridimplementierungen noch nicht unterstützt werden
Die folgenden Funktionen können nicht mit Hybridimplementierungen verwendet werden (weder auf dem Gerät noch über Cloud-Fallback):
Gemini Live API: Bidirektionales Echtzeit-Streaming wird nicht unterstützt.
Server-Prompt-Vorlagen: Verwaltete Server-Prompt-Vorlagen werden nicht unterstützt.
Tokens zählen: Auf die Tokenanzahl sollte man sich nicht verlassen, da sie sich zwischen in der Cloud gehosteten und On-Device-Modellen unterscheidet. Es gibt also keinen intuitiven Fallback.
Funktionen, die für die Inferenz auf dem Gerät noch nicht unterstützt werden
Die folgenden Funktionen werden für die On-Device-Inferenz noch nicht unterstützt, sind aber für in der Cloud gehostete Modelle verfügbar.
Medien wie Bilder, Audio oder Videos generieren
Text aus multimodalen Eingaben von Bildern, Audio, Video und Dokumenten (PDFs) generieren
Senden von Anfragen, die 4.096 Tokens (oder etwa 3.000 englische Wörter) überschreiten
Dem On-Device-Modell integrierte Tools zur Verfügung stellen, um die Antwortgenerierung zu unterstützen (z. B. Codeausführung, URL-Kontext, Fundierung mit
Google Search und Fundierung mitGoogle Maps ). Das Bereitstellen eigener Tools über Funktionsaufrufe wird jedoch unterstützt.Beim KI-Monitoring in der Firebase-Konsole werden keine Daten für die On-Device-Inferenz (einschließlich Geräteprotokolle) angezeigt. Inferenz, die ein in der Cloud gehostetes Modell verwendet, kann jedoch wie andere Inferenz über Firebase AI Logic überwacht werden.
Zusätzliche Einschränkungen
Zusätzlich zu den oben genannten Einschränkungen gelten für die On-Device-Inferenz die folgenden Einschränkungen:
Der Endnutzer Ihrer App muss ein Gerät mit aktivierter Apple Intelligence verwenden.
Ihre App kann die On-Device-Inferenz nur ausführen, wenn sie sich im Vordergrund befindet.
Feedback zu Ihren Erfahrungen mit Firebase AI Logic geben