Aggiornare dinamicamente Vertex AI nell'app Firebase con Firebase Remote Config

Quando chiami Gemini API dalla tua app utilizzando un SDK Vertex AI in Firebase, la richiesta contiene una serie di parametri che controllano le risposte dell'IA generativa. Di solito includono il nome del modello, la configurazione di generazione del modello (token massimi, temperatura e così via), le impostazioni di sicurezza, le istruzioni di sistema e i dati del prompt.

Nella maggior parte dei casi, ti consigliamo di modificarli on demand o in base alle esigenze per una serie di scenari:

  • Aggiorna il tuo modello di IA generativa senza rilasciare una nuova app. Puoi eseguire l'upgrade a versioni di modelli più recenti e stabili prima che quelle precedenti vengano ritirate, passare a modelli a basso costo o con prestazioni più elevate in base alle esigenze e agli attributi dei tuoi utenti oppure implementare in modo condizionale i modelli più recenti e avanzati in segmenti di utenti specifici (come i beta tester).
  • Imposta la posizione da cui accedi al modello in modo che sia più vicina ai tuoi utenti.
  • Esegui test A/B su diverse istruzioni e prompt di sistema, poi implementa lentamente i valori dell'esperimento vincenti per gli utenti.
  • Utilizza i flag delle funzionalità per mostrare o nascondere rapidamente le funzionalità di IA generativa nella tua app.

Firebase Remote Config esegue tutto questo e altro ancora, consentendoti di aggiornare i valori dei parametri in base alle esigenze e in modo condizionale per le istanze dell'app che corrispondono alle caratteristiche impostate nella console Firebase, senza rilasciare una nuova versione dell'app.

Questa guida alla soluzione fornisce casi d'uso consigliati specifici e descrive come aggiungere Remote Config alla tua app di IA generativa.

Vai all'implementazione del codice

Perché usare Firebase Remote Config con la tua app?

Firebase Remote Config ti consente di modificare in modo dinamico il comportamento della tua app senza richiedere aggiornamenti. Questo è particolarmente utile per le app che utilizzano l'IA generativa, in cui l'iterazione rapida e la messa a punto sono fondamentali.

Casi d'uso essenziali per Remote Config con app di IA generativa

Ti consigliamo di utilizzare Remote Config con Vertex AI in Firebase per i seguenti casi d'uso essenziali:

  • Esegui l'upgrade alla versione più recente del modello senza aggiornare l'app: utilizza i parametri Remote Config per modificare il nome del modello in base alle esigenze, in modo da poter eseguire l'upgrade alla versione più recente del tuo modello Gemini preferito non appena disponibile.
  • Aggiorna le istruzioni di sistema e le impostazioni di sicurezza senza un aggiornamento dell'app: memorizza le istruzioni di sistema e le impostazioni di sicurezza all'interno dei parametri Remote Config per assicurarti di poterle modificare in base alle esigenze se riscontri problemi dopo il deployment.
  • Riduci i rischi e applica la sicurezza dell'IA: utilizza Remote Config Implementazioni per rilasciare in modo sicuro e graduale le modifiche dell'IA generativa agli utenti di iOS e Android.

Casi d'uso avanzati e consigliati per Remote Config con app di IA generativa

Dopo aver strumentato l'app con Remote Config e Google Analytics, puoi esplorare casi d'uso avanzati:

  • Imposta la posizione in base alla posizione del client: utilizza le condizioni Remote Config per impostare la posizione del modello in base alla posizione rilevata del client.
  • Sperimenta modelli diversi: testa e passa rapidamente tra vari modelli di IA generativa o persino esegui il deployment di modelli diversi per segmenti di utenti diversi, per trovare quello più adatto al tuo caso d'uso specifico.
  • Ottimizzare le prestazioni del modello: perfeziona i parametri del modello, come prompt del sistema, token di output massimi, temperatura e altre impostazioni.

  • Utilizza istruzioni di sistema, prompt e configurazione del modello diversi in base agli attributi del cliente: quando utilizzi Remote Config con Google Analytics, puoi creare condizioni in base agli attributi del cliente o ai segmenti di pubblico personalizzati e impostare parametri diversi in base a questi attributi.

    Ad esempio, se utilizzi l'IA generativa per fornire assistenza tecnica nella tua app, ti consigliamo di impostare istruzioni di sistema specifiche per la piattaforma dell'app per assicurarti che vengano fornite istruzioni accurate agli utenti delle piattaforme Android, iOS e web.

  • Personalizza le esperienze per ogni utente:utilizza la Remote Config personalizzazione per determinare automaticamente le impostazioni di IA generativa ottimali per ogni utente.

  • Controlla i costi: regola da remoto i modelli di IA generativa richiamati, la frequenza con cui vengono utilizzati e configura dinamicamente i valori dei token di output massimi in base al pubblico degli utenti per ridurre i costi non necessari.

  • Ottimizza l'esperienza e i risultati dell'app: utilizza A/B Testing con Remote Config con le tue app per iOS, Android e Flutter per testare le modifiche ai parametri dell'IA generativa in diversi segmenti di utenti per vedere in che modo influiscono su metriche chiave come la fidelizzazione e le entrate.

Dotando la tua app di IA generativa di Firebase Remote Config, puoi creare applicazioni flessibili, sicure e convenienti basate sull'IA, creando un'esperienza piacevole per i tuoi utenti.

Aggiungere Firebase Remote Config all'app

In questa guida alla soluzione, utilizzerai Firebase Remote Config per aggiornare dinamicamente i parametri nella tua app per Android che utilizzano l'SDK Vertex AI in Firebase. Imparerai come:

  • Recupera e attiva parametri come i nomi dei modelli e le istruzioni di sistema da Firebase Remote Config.
  • Aggiorna le chiamate Gemini API per utilizzare i parametri recuperati dinamicamente, in modo da poter passare da un modello all'altro o modificare le istruzioni di sistema senza un aggiornamento dell'app.
  • Controlla i parametri da remoto, regolando il comportamento e le funzionalità del modello in base alle necessità.

Prerequisiti

Questa guida presuppone che tu abbia dimestichezza con l'utilizzo di JavaScript per sviluppare applicazioni web. Questa guida è indipendente dal framework. Prima di iniziare, assicurati di:

  • Completa la Guida introduttiva per l'SDK Vertex AI in Firebase. Assicurati di avere eseguito tutte le seguenti operazioni:

    1. Configura un progetto Firebase nuovo o esistente, ad esempio utilizzando il piano di prezzi Blaze e attivando le API richieste.
    2. Collega la tua app a Firebase, inclusa la registrazione e l'aggiunta della configurazione Firebase.
    3. Aggiungi l'SDK e inizializza il servizio Vertex AI e il modello generativo nella tua app.

  • Attiva Google Analytics nel tuo progetto e aggiungi il relativo SDK alla tua app (obbligatorio per il targeting condizionale, come l'impostazione della posizione del servizio e del modello in base alla posizione del dispositivo client).

Passaggio 1: imposta i valori dei parametri nella Console Firebase

Crea un modello Remote Config client e configura i parametri e i valori da recuperare e utilizzare nell'app.

  1. Apri la console Firebase e, dal menu di navigazione, espandi Esegui e seleziona Remote Config.
  2. Assicurati che Client sia selezionato nel selettore Client/Server nella parte superiore della pagina Remote Config.
    • Se è la prima volta che utilizzi i modelli di client Remote Config, fai clic su Crea configurazione. Viene visualizzato il riquadro Crea il tuo primo parametro.
    • Se non è la prima volta che utilizzi i modelli Remote Config, fai clic su Aggiungi parametro.

  3. Definisci i seguenti parametri Remote Config:

    Nome parametro Descrizione Tipo Valore predefinito
    model_name Nome del modello. Per elenchi aggiornati dei nomi dei modelli da utilizzare nel codice, consulta Nomi dei modelli disponibili. Stringa gemini-1.5-flash
    system_instructions Le istruzioni di sistema sono come un "preambolo" che aggiungi prima che il modello venga esposto ad altre istruzioni dell'utente finale per influenzarne il comportamento, in base a esigenze e casi d'uso specifici. Stringa You are a helpful assistant who knows everything there is to know about Firebase!
    prompt Prompt predefinito da utilizzare con la funzionalità di IA generativa. Stringa I am a developer who wants to know more about Firebase!
    vertex_location Se vuoi, controlla la posizione per eseguire il servizio Vertex AI e accedere a un modello. Puoi impostare condizioni per configurare questa opzione in base alla posizione del cliente rilevata da Google Analytics. Stringa us-central1

  4. Al termine dell'aggiunta dei parametri, fai clic su Pubblica modifiche. Se questo non è un nuovo modello Remote Config, rivedi le modifiche e fai di nuovo clic su Pubblica modifiche.

Passaggio 2: aggiungi e inizializza l'SDK Remote Config

Aggiungi e inizializza l'SDK Remote Config:

  1. Apri il codice in un editor di testo e importa Remote Config:

    import { getRemoteConfig } from 'firebase/remote-config';

  2. All'interno della funzione principale e dopo l'inizializzazione dell'app Firebase per l'SDK Vertex AI in Firebase, inizializza Remote Config:

      // Initialize Remote Config and get a reference to the service
  const remoteConfig = getRemoteConfig(app);

  3. Imposta un intervallo di recupero minimo. In questo esempio, l'intervallo di recupero predefinito è 3600 secondi, ma ti consigliamo di impostare un intervallo di recupero minimo relativamente basso nel codice durante lo sviluppo.

    remoteConfig.settings.minimumFetchIntervalMillis = 3600000;

Passaggio 3: imposta i valori dei parametri in-app

Devi impostare i valori dei parametri predefiniti in-app nell'oggetto Remote Config, in modo che l'app sia funzionale prima di connettersi al backend Remote Config, se l'accesso alla rete del client viene interrotto e/o se non vengono configurati valori sul backend.

In questo esempio, imposti manualmente i valori predefiniti per il nome del modello, le istruzioni di sistema, il prompt dell'utente e la posizione di Vertex AI:

// Set default Remote Config parameter values
remoteConfig.defaultConfig = {
  model_name: 'gemini-1.5-flash',
  system_instructions:
    'You are a helpful assistant who knows everything there is to know about Firebase!',
  prompt: 'I am a developer who wants to know more about Firebase!',
  vertex_location: 'us-central1',
};

Passaggio 4: recupera e attiva i valori

  1. Aggiungi getValue e fetchAndActivate alle importazioni:

    import { getValue, fetchAndActivate } from 'firebase/remote-config';

  2. Dopo il codice che hai aggiunto per configurare i valori predefiniti di Remote Config, recupera e attiva la configurazione, quindi assegna i valori alle costanti modelName, systemInstructions, prompt e vertexLocation.

    // Fetch and activate Remote Config.
try {
  await fetchAndActivate(remoteConfig);
} catch(err) {
  console.error('Remote Config fetch failed', err);
}

console.log('Remote Config fetched.');

// Assign Remote Config values.
const modelName = getValue(remoteConfig, 'model_name').asString();
const systemInstructions = getValue(remoteConfig, 'system_instructions').asString();
const prompt = getValue(remoteConfig, 'prompt').asString();
const vertexLocation = getValue(remoteConfig, 'vertex_location').asString();

Passaggio 5: aggiorna le chiamate Vertex AI in modo da utilizzare i valori Remote Config

Ora che Remote Config è completamente configurato, aggiorna il codice per sostituire i valori impostati come hardcoded con valori provenienti da Remote Config. Ad esempio, se utilizzavi l'esempio utilizzato in Introduzione all'API Gemini con gli SDK Vertex AI in Firebase, dovrai aggiornarlo come segue:

// Initialize FirebaseApp
const firebaseApp = initializeApp(firebaseConfig);

// Initialize the Vertex AI service
// Optionally specify a location in which to run the service and access the model
const vertexAI = getVertexAI(firebaseApp, { location: vertexLocation });

// Initialize the generative model with a model that supports your use case
// Gemini 1.5 models are versatile and can be used with all API capabilities
const model = getGenerativeModel(vertexAI, {
  model: modelName,
  systemInstruction: systemInstruction
});

// Wrap in an async function so you can use await
async function run() {
  // Provide a prompt that contains text
  const userPrompt = prompt;

  // To generate text output, call generateContent with the text input
  const result = await model.generateContent(userPrompt);

  const response = result.response;
  const text = response.text();
  console.log(text);
}

Passaggio 6: esegui l'app

Esegui l'app e verifica che funzioni. Apporta modifiche alla configurazione dalla pagina Remote Config nella Console Firebase, pubblica le modifiche e verifica il risultato.

Passaggi successivi