Aggiornare dinamicamente Vertex AI nell'app Firebase con Firebase Remote Config

Quando chiami Gemini API dalla tua app utilizzando un SDK Vertex AI in Firebase, la richiesta contiene una serie di parametri che controllano le risposte dell'IA generativa. Di solito includono il nome del modello, la configurazione di generazione del modello (token massimi, temperatura e così via), le impostazioni di sicurezza, le istruzioni di sistema e i dati del prompt.

Nella maggior parte dei casi, ti consigliamo di modificarli on demand o in base alle esigenze per una serie di scenari:

  • Aggiorna il tuo modello di IA generativa senza rilasciare una nuova app. Puoi eseguire l'upgrade a versioni più recenti e stabili dei modelli prima che le versioni precedenti vengano dismesse, passare a modelli con costi inferiori o con prestazioni superiori in base alle esigenze e agli attributi degli utenti oppure eseguire il deployment dei modelli più recenti e migliori in segmenti di utenti specifici (come i beta tester).
  • Imposta la posizione da cui accedi al modello in modo che sia più vicina ai tuoi utenti.
  • Esegui test A/B su istruzioni e prompt di sistema diversi, quindi implementa gradualmente i valori dell'esperimento vincente per i tuoi utenti.
  • Utilizza i flag delle funzionalità per mostrare o nascondere rapidamente le funzionalità di IA generativa nella tua app.

Firebase Remote Config esegue tutto questo e altro ancora, consentendoti di aggiornare i valori dei parametri in base alle esigenze e in modo condizionale per le istanze dell'app che corrispondono alle caratteristiche impostate nella console Firebase, senza rilasciare una nuova versione dell'app.

Questa guida alla soluzione fornisce casi d'uso consigliati specifici e descrive come aggiungere Remote Config alla tua app di IA generativa.

Vai all'implementazione del codice

Perché usare Firebase Remote Config con la tua app?

Firebase Remote Config ti consente di modificare dinamicamente il comportamento della tua app senza richiedere aggiornamenti dell'app. Questo è particolarmente utile per le app che utilizzano l'IA generativa, in cui l'iterazione rapida e la messa a punto sono fondamentali.

Casi d'uso essenziali per Remote Config con app di IA generativa

Ti consigliamo di utilizzare Remote Config con Vertex AI in Firebase per i seguenti casi d'uso essenziali:

  • Esegui l'upgrade alla versione più recente del modello senza aggiornare l'app: utilizza i parametri Remote Config per modificare il nome del modello in base alle esigenze, in modo da poter eseguire l'upgrade alla versione più recente del tuo preferito Gemini modello non appena sarà disponibile.
  • Aggiorna le istruzioni di sistema e le impostazioni di sicurezza senza un aggiornamento dell'app: memorizza le istruzioni di sistema e le impostazioni di sicurezza all'interno dei parametri Remote Config per assicurarti di poterle modificare in base alle esigenze se riscontri problemi dopo il deployment.
  • Riduci i rischi e applica la sicurezza dell'IA: utilizza le Remote Configimplementazioni per rilasciare in modo sicuro e graduale le modifiche dell'IA generativa agli utenti iOS e Android.

Casi d'uso avanzati e consigliati per Remote Config con le app di IA generativa

Dopo aver dotato la tua app di Remote Config e Google Analytics, puoi esplorare casi d'uso avanzati:

  • Imposta la posizione in base alla posizione del client: utilizza le condizioni Remote Config per impostare la posizione del modello in base alla posizione rilevata del client.
  • Sperimenta con diversi modelli: testa e passa rapidamente da un modello di AI generativa all'altro o esegui il deployment di modelli diversi in segmenti di utenti diversi per trovare la soluzione più adatta al tuo caso d'uso specifico.
  • Ottimizza le prestazioni del modello: ottimizza i parametri del modello, come prompt di sistema, numero massimo di token di output, temperatura e altre impostazioni.

  • Utilizza istruzioni di sistema, prompt e configurazione del modello diversi in base agli attributi del cliente: quando utilizzi Remote Config con Google Analytics, puoi creare condizioni in base agli attributi del cliente o ai segmenti di pubblico personalizzati e impostare parametri diversi in base a questi attributi.

    Ad esempio, se utilizzi l'IA generativa per fornire assistenza tecnica nella tua app, ti consigliamo di impostare istruzioni di sistema specifiche per la piattaforma dell'app per assicurarti che vengano fornite istruzioni accurate agli utenti delle piattaforme Android, iOS e web.

  • Personalizza le esperienze per ogni utente:utilizza la Remote Config personalizzazione per determinare automaticamente le impostazioni di IA generativa ottimali per ogni utente.

  • Controllo dei costi: regola da remoto i modelli di IA generativa chiamati e la frequenza di utilizzo e configura dinamicamente i valori massimi dei token di output in base al pubblico dell'utente per ridurre i costi inutili.

  • Ottimizza l'esperienza e i risultati dell'app: utilizza A/B Testing con Remote Config con le tue app per iOS, Android e Flutter per testare le modifiche ai parametri dell'IA generativa in diversi segmenti di utenti per vedere in che modo influiscono su metriche chiave come la fidelizzazione e le entrate.

Se fornisci alla tua app di IA generativa Firebase Remote Config, puoi creare applicazioni flessibili, sicure e convenienti basate sull'IA, creando un'esperienza piacevole per i tuoi utenti.

Aggiungere Firebase Remote Config all'app

In questa guida alle soluzioni, utilizzerai Firebase Remote Config per aggiornare dinamicamente i parametri nella tua app per Android che utilizzano l'SDK Vertex AI in Firebase. Imparerai come:

  • Recupera e attiva parametri come i nomi dei modelli e le istruzioni di sistema da Firebase Remote Config.
  • Aggiorna le chiamate Gemini API per utilizzare i parametri recuperati dinamicamente, in modo da passare da un modello all'altro o modificare le istruzioni di sistema senza un aggiornamento dell'app.
  • Controlla i parametri da remoto, regolando il comportamento e le funzionalità del modello in base alle necessità.

Prerequisiti

Questa guida presuppone che tu abbia dimestichezza con l'utilizzo di JavaScript per sviluppare applicazioni web. Questa guida è indipendente dal framework. Prima di iniziare, assicurati di:

  • Completa la Guida introduttiva per l'SDK Vertex AI in Firebase. Assicurati di aver eseguito tutte le seguenti operazioni:

    1. Configura un progetto Firebase nuovo o esistente, ad esempio utilizzando il piano di prezzi Blaze e attivando le API richieste.
    2. Collega la tua app a Firebase, inclusa la registrazione e l'aggiunta della configurazione Firebase.
    3. Aggiungi l'SDK e inizializza il servizio Vertex AI e il modello generativo nella tua app.

  • Attiva Google Analytics nel tuo progetto e aggiungi il relativo SDK alla tua app (obbligatorio per il targeting condizionale, come l'impostazione della posizione del servizio e del modello in base alla posizione del dispositivo client).

Passaggio 1: imposta i valori dei parametri nella Console Firebase

Crea un modello Remote Config client e configura i parametri e i valori da recuperare e utilizzare nell'app.

  1. Apri la console Firebase e, dal menu di navigazione, espandi Esegui e seleziona Remote Config.
  2. Assicurati che sia selezionato Cliente nel selettore Client/Server nella parte superiore della pagina Remote Config.
    • Se è la prima volta che utilizzi i modelli di client Remote Config, fai clic su Crea configurazione. Viene visualizzato il riquadro Crea il tuo primo parametro.
    • Se non è la prima volta che utilizzi i modelli Remote Config, fai clic su Aggiungi parametro.

  3. Definisci i seguenti parametri Remote Config:

    Nome parametro Descrizione Tipo Valore predefinito
    model_name Nome del modello. Per elenchi aggiornati dei nomi dei modelli da utilizzare nel codice, consulta Nomi dei modelli disponibili. Stringa gemini-1.5-flash
    system_instructions Le istruzioni di sistema sono come un "preambolo" che aggiungi prima che il modello venga esposto ad altre istruzioni dell'utente finale per influenzarne il comportamento, in base a esigenze e casi d'uso specifici. Stringa You are a helpful assistant who knows everything there is to know about Firebase!
    prompt Prompt predefinito da utilizzare con la funzionalità di IA generativa. Stringa I am a developer who wants to know more about Firebase!
    vertex_location Se vuoi, controlla la posizione per eseguire il servizio Vertex AI e accedere a un modello. Puoi impostare le condizioni per configurare questa opzione in base alla località del client rilevata da Google Analytics. Stringa us-central1

  4. Al termine dell'aggiunta dei parametri, fai clic su Pubblica modifiche. Se non si tratta di un nuovo modello Remote Config, rivedi le modifiche e fai di nuovo clic su Pubblica modifiche.

Passaggio 2: aggiungi e inizializza l'SDK Remote Config

Aggiungi e inizializza l'SDK Remote Config:

  1. Apri il codice in un editor di testo e importa Remote Config:

    import { getRemoteConfig } from 'firebase/remote-config';

  2. All'interno della funzione principale e dopo l'inizializzazione dell'app Firebase per l'SDK Vertex AI in Firebase, inizializza Remote Config:

      // Initialize Remote Config and get a reference to the service
  const remoteConfig = getRemoteConfig(app);

  3. Imposta un intervallo di recupero minimo. In questo esempio, l'intervallo di recupero predefinito è 3600 secondi, ma ti consigliamo di impostare un intervallo di recupero minimo relativamente basso nel codice durante lo sviluppo.

    remoteConfig.settings.minimumFetchIntervalMillis = 3600000;

Passaggio 3: imposta i valori dei parametri in-app

Devi impostare i valori dei parametri predefiniti in-app nell'oggetto Remote Config, in modo che l'app sia funzionale prima di connettersi al backend Remote Config, se l'accesso alla rete del client viene interrotto e/o se non vengono configurati valori sul backend.

In questo esempio, imposti manualmente i valori predefiniti per il nome del modello, le istruzioni di sistema, il prompt dell'utente e la posizione di Vertex AI:

// Set default Remote Config parameter values
remoteConfig.defaultConfig = {
  model_name: 'gemini-1.5-flash',
  system_instructions:
    'You are a helpful assistant who knows everything there is to know about Firebase!',
  prompt: 'I am a developer who wants to know more about Firebase!',
  vertex_location: 'us-central1',
};

Passaggio 4: recupera e attiva i valori

  1. Aggiungi getValue e fetchAndActivate alle tue importazioni:

    import { getValue, fetchAndActivate } from 'firebase/remote-config';

  2. Dopo il codice che hai aggiunto per configurare i valori predefiniti di Remote Config, recupera e attiva la configurazione, quindi assegna i valori alle costanti modelName, systemInstructions, prompt e vertexLocation.

    // Fetch and activate Remote Config.
try {
  await fetchAndActivate(remoteConfig);
} catch(err) {
  console.error('Remote Config fetch failed', err);
}

console.log('Remote Config fetched.');

// Assign Remote Config values.
const modelName = getValue(remoteConfig, 'model_name').asString();
const systemInstructions = getValue(remoteConfig, 'system_instructions').asString();
const prompt = getValue(remoteConfig, 'prompt').asString();
const vertexLocation = getValue(remoteConfig, 'vertex_location').asString();

Passaggio 5: aggiorna le chiamate Vertex AI in modo da utilizzare i valori Remote Config

Ora che Remote Config è completamente configurato, aggiorna il codice per sostituire i valori hardcoded con quelli provenienti da Remote Config. Ad esempio, se stai utilizzando l'esempio utilizzato in Iniziare a utilizzare l'API Gemini utilizzando Vertex AI negli SDK Firebase, aggiornalo come seguente:

// Initialize FirebaseApp
const firebaseApp = initializeApp(firebaseConfig);

// Initialize the Vertex AI service
// Optionally specify a location in which to run the service and access the model
const vertexAI = getVertexAI(firebaseApp, { location: vertexLocation });

// Initialize the generative model with a model that supports your use case
// Gemini 1.5 models are versatile and can be used with all API capabilities
const model = getGenerativeModel(vertexAI, {
  model: modelName,
  systemInstruction: systemInstruction
});

// Wrap in an async function so you can use await
async function run() {
  // Provide a prompt that contains text
  const userPrompt = prompt;

  // To generate text output, call generateContent with the text input
  const result = await model.generateContent(userPrompt);

  const response = result.response;
  const text = response.text();
  console.log(text);
}

Passaggio 6: esegui l'app

Esegui l'app e verifica che funzioni. Apporta modifiche alla configurazione dalla pagina Remote Config nella Console Firebase, pubblica le modifiche e verifica il risultato.

Passaggi successivi