Kosten, Nutzung und andere Messwerte im Blick behalten

Die Kosten, die Nutzung und andere Messwerte Ihrer KI-Funktionen im Blick zu behalten, ist ein wichtiger Bestandteil des Betriebs einer Produktions-App. Sie müssen wissen, wie die normalen Nutzungsmuster für Ihre App aussehen, und darauf achten, dass Sie die für Sie wichtigen Grenzwerte nicht überschreiten.

Auf dieser Seite werden einige empfohlene Optionen zum Überwachen Ihrer Kosten, Nutzung und anderer Messwerte in der Firebase Console und der Google Cloud Console beschrieben.

Kosten überwachen

Im Dashboard „Nutzung und Abrechnung“ der Firebase-Konsole können Sie die Kosten Ihres Projekts für den Aufruf von Agent Platform Gemini API (formerly Vertex AI) und Gemini Developer API einsehen (wenn Sie das Blaze-Preismodell nutzen).

Die im Dashboard angezeigten Kosten beziehen sich nicht unbedingt auf Anrufe, bei denen die Firebase AI Logic-Client-SDKs verwendet werden. Die angezeigten Kosten beziehen sich auf alle Aufrufe dieser Gemini APIs, unabhängig davon, ob sie über die Firebase AI Logic-Client-SDKs, die Google GenAI-Server-SDKs, Genkit, die Firebase Extensions für die Gemini API, REST-Aufrufe, eines der AI Studios oder andere API-Clients erfolgen.

Weitere Informationen zu den Preisen für die Produkte, die mit Ihrer Nutzung von Firebase AI Logic verknüpft sind

Budgetbenachrichtigungen und Ausgabenobergrenzen einrichten

Wenn Sie den Blaze-Preismodell nutzen, können Sie unerwartete Rechnungen vermeiden, indem Sie Budgetbenachrichtigungen und Ausgabenobergrenzen festlegen.

Budgetbenachrichtigungen sind keine Budgetobergrenzen. Sie erhalten Warn-E-Mails, wenn Ihre Ausgaben bestimmte Budgetschwellenwerte erreichen, damit Sie in Ihrer App oder Ihrem Projekt Maßnahmen ergreifen können. Sie müssen ein Budget mit Ausgabenobergrenze festlegen, wenn der Dienst pausiert werden soll, sobald Ihr Budget erreicht ist.

Nutzung Ihrer KI-Funktionen in der Firebase Console beobachten

Sie können die KI-Überwachung auf der Seite Firebase AI Logic der Firebase-Konsole aktivieren, um verschiedene Messwerte und die Nutzung auf App-Ebene zu beobachten und so einen umfassenden Überblick über Ihre Anfragen aus den Firebase AI Logic-Client-SDKs zu erhalten. Diese Dashboards sind detaillierter als die einfachen Tokenanzahlen, die Sie durch einen Aufruf der Count Tokens API erhalten.

Wichtige Funktionen der KI-Überwachung in der Firebase-Konsole:

  • Sie können quantitative Messwerte wie Anfragevolumen, Latenz, Fehler und die Tokennutzung pro Modalität für jede Ihrer Apps ansehen.

  • Sie können sich die Attribute, Eingaben und Ausgaben Ihrer Anfragen ansehen, was beim Debuggen und bei der Qualitätsverbesserung hilfreich sein kann.

  • Daten nach Dimensionen wie Anfragestatus, Mindestlatenz und Modellname aufschlüsseln.

Alle diese Funktionen basieren auf Google Cloud Observability Suite (siehe detaillierte Produktinformationen unten).

KI-Monitoring aktivieren

So können Sie KI-Monitoring in der Firebase Console aktivieren:

Voraussetzungen für die Aktivierung und Verwendung von KI‑Monitoring:

  • Sie müssen Inhaber oder Bearbeiter des Projekts oder Firebase Vertex AI-Administrator sein.

  • Ihre App muss mindestens die folgenden Firebase-Bibliotheksversionen verwenden:
    iOS+: v11.13.0+ | Android: v16.0.0+ (BoM: v33.14.0+) | Web: v11.8.0+ | Flutter: v2.0.0+ (BoM: v3.11.0+) | Unity: v12.9.0+

  • Für Ihre App muss die Opt-in-Datenerhebung aktiviert sein (standardmäßig aktiviert).

Nachdem Ihre App diese Anforderungen erfüllt und Sie das KI-Monitoring in der Console aktiviert haben, müssen Sie in Ihrer App oder der Console nichts weiter tun, damit Daten in den Dashboards auf dem Tab KI-Dienste > KI-Logik > KI-Monitoring angezeigt werden. Es kann zu einer leichten Verzögerung (manchmal bis zu 5 Minuten) kommen, bevor die Telemetrie einer Anfrage in der Firebase-Konsole verfügbar ist.

Fortgeschrittene Nutzung

In diesem Abschnitt wird die Konfiguration der Abtastrate beschrieben. Außerdem werden verschiedene Optionen zum Ansehen und Bearbeiten Ihrer Daten erläutert.

Abtastrate

Wenn Sie eine große Anzahl von Anfragen stellen, empfehlen wir, die Konfiguration der Stichprobenrate zu nutzen. Die Abtastrate gibt den Anteil der Anfragen an, für die tatsächlich Trace-Details erhoben werden.

Auf dem Tab Einstellungen unter KI-Dienste > KI-Logik in der Firebase-Konsole können Sie die Abtastrate für Ihr Projekt auf einen Wert zwischen 1 und 100 % festlegen. Bei 100% werden durch das KI-Monitoring Traces von Ihrem gesamten Traffic erfasst. Der Standardwert ist 100%. Wenn Sie weniger Traces erfassen, sinken Ihre Kosten, aber auch die Anzahl der Traces, die Sie überwachen können. Unabhängig von der Abtastrate wird in den Grafiken im Monitoring-Dashboard immer das tatsächliche Trafficvolumen dargestellt.

Zusätzliche Optionen außerhalb der Firebase-Konsole

Zusätzlich zum KI-Monitoring in der Firebase-Konsole haben Sie folgende Möglichkeiten:

  • Vertex AI Model Garden
    Diese Dashboards bieten zusätzliche Trendinformationen zu Latenz und Durchsatz für die verwalteten Modelle und ergänzen die Informationen, die Sie über das KI-Monitoring in der Firebase-Konsole erhalten.

  • Daten mit Google Cloud Observability Suite
    untersuchen und verwenden Da Telemetriedaten für das KI-Monitoring in Google Cloud Observability Suite gespeichert werden, die Ihrem Projekt zugeordnet ist, können Sie Ihre Daten in den zugehörigen Dashboards untersuchen, einschließlich Trace Explorer und Logs Explorer. Diese sind verknüpft, wenn Sie Ihre einzelnen Traces in der Firebase-Konsole untersuchen. Sie können Ihre Daten auch verwenden, um benutzerdefinierte Dashboards zu erstellen, Benachrichtigungen einzurichten und vieles mehr.

Detaillierte Informationen zu Produkten, die für das KI‑Monitoring verwendet werden

Beim KI-Monitoring werden Ihre Telemetriedaten in verschiedenen Produkten gespeichert, die in Google Cloud Observability Suite verfügbar sind, darunter Cloud Monitoring, Cloud Trace und Cloud Logging.

  • Cloud Monitoring: Speichert Messwerte, einschließlich der Anzahl der Anfragen, der Erfolgsrate und der Anfragelatenz.

  • Cloud Trace: Speichert Traces für jede Ihrer Anfragen, sodass Sie Details einzeln statt aggregiert ansehen können. Ein Trace ist in der Regel mit Logs verknüpft, damit Sie den Inhalt und das Timing jeder Interaktion untersuchen können.

  • Cloud Logging: Erfasst Metadaten zu Eingabe, Ausgabe und Konfiguration, um detaillierte Informationen zu jedem Teil Ihrer KI-Anfrage bereitzustellen.

Da Ihre Telemetriedaten in diesen Produkten gespeichert werden, können Sie die Aufbewahrungs- und Zugriffseinstellungen direkt in jedem Produkt festlegen. Weitere Informationen finden Sie in der Dokumentation für Cloud Monitoring, Cloud Trace und Cloud Logging.

Beim KI-Monitoring werden die tatsächlichen Prompts und die generierte Ausgabe aus jeder Stichprobenanfrage in Cloud Logging gespeichert, sodass diese Daten in der Firebase-Konsole verfügbar sind. Sie können optional das Speichern von Prompts und Antworten deaktivieren.

, um diese Anforderungen zu erfüllen.

Preise

  • Projekte im kostenlosen Spark-Tarif (nur bei Verwendung von Gemini Developer API verfügbar): Die Nutzung der zugrunde liegenden Dienste für das KI-Monitoring ist kostenlos.

  • Projekte mit dem Blaze-Tarif mit nutzungsabhängiger Abrechnung: Ihnen wird die Nutzung der zugrunde liegenden Google Cloud Observability Suite-Produkte in Rechnung gestellt, die vom KI-Monitoring verwendet werden (unabhängig von Ihrem ausgewählten Gemini API-Anbieter). Für jedes Google Cloud Observability Suite-Produkt gibt es jedoch großzügige kostenlose Stufen. Weitere Informationen finden Sie in der Google Cloud Observability Suite-Preisdokumentation.

Optional: Speichern von Prompts und Antworten deaktivieren

Standardmäßig werden beim KI-Monitoring die tatsächlichen Prompts, die an das Modell gesendet werden, und die vom Modell generierten Antworten erfasst, einschließlich aller sensiblen Informationen (z. B. personenidentifizierbare Informationen) in diesen Prompts und Antworten. Alle diese Daten werden in Cloud Logging gespeichert, damit sie in der Firebase Console verfügbar sind.

Wenn Sie das Speichern von Prompts und Antworten deaktivieren möchten, fügen Sie der Cloud Logging-Senke (in der Regel die _Default-Senke) den folgenden „Ausschließen“-Filter hinzu: resource.type="firebasevertexai.googleapis.com/Model".

API-Messwerte auf Projektebene in der Google Cloud Console ansehen

Für jede API können Sie Messwerte auf Projektebene, z. B. die Nutzung, in der Google Cloud Console aufrufen.

Die in diesem Abschnitt beschriebenen Google Cloud-Konsolenseiten enthalten keine Informationen wie Anfrage- und Antwortinhalte und die Anzahl der Tokens. Wenn Sie diese Art von Informationen im Blick behalten möchten, sollten Sie KI-Monitoring in der Firebase-Konsole (siehe vorheriger Abschnitt) verwenden.

  1. Rufen Sie in der Google CloudConsole die Seite Messwerte der API auf, die Sie sich ansehen möchten:

    • Agent Platform API: Sehen Sie sich die Nutzung an, die mit einer beliebigen Anfrage an die Agent Platform Gemini API (formerly Vertex AI) verbunden ist.

      • Dazu gehören Anfragen über die Firebase AI Logic-Client-SDKs, die Google GenAI-Server-SDKs, Genkit, die Firebase Extensions für die Gemini API, die REST API, Agent  Studio usw.

    • Gemini Developer API: Sehen Sie sich die Nutzung an, die mit einer beliebigen Anfrage an die Gemini Developer API verbunden ist.

      • Dazu gehören Anfragen über die Firebase AI Logic-Client-SDKs, die Google GenAI-Server-SDKs, Genkit, die Firebase Extensions für die Gemini API, die REST API, Google AI Studio usw.
      • Der Anzeigename dieser API in der Google Cloud-Konsole ist „Generative Language API“.

    Wenn Sie sich auf einer Übersichtsseite für die API befinden, klicken Sie auf Verwalten und dann auf den Tab Messwerte.

  2. Über die Drop-down-Menüs können Sie die gewünschten Messwerte aufrufen, z. B. Traffic nach Antwortcode, Fehler nach API-Methode, Gesamtlatenz und Latenz nach API-Methode.