Best practice e considerazioni per i modelli


Questa pagina descrive alcune best practice e considerazioni per i modelli di prompt del server, incluse le funzionalità non ancora supportate. Tieni presente che molte di queste funzionalità non sono disponibili solo nella release iniziale dei modelli di prompt del server, quindi consulta le note di rilascio per gli aggiornamenti.

Best practice

Molte di queste best practice sono descritte in dettaglio anche in Gestire i modelli.

Versionare i modelli

Proteggere il modello

  • Blocca il modello prima di passare alla produzione. Evita di modificare i modelli utilizzati in produzione.

    • Il blocco di un modello funge da protezione contro modifiche involontarie, ma il blocco nonimpedisce completamente la modifica. Un membro del progetto con le autorizzazioni appropriate può sempre sbloccare un modello per modificarlo.

    • Ti consigliamo di bloccare i modelli utilizzati attivamente dal codice, in particolare dal codice di produzione.

  • Scrivi una convalida dell'input efficace per le variabili di input, che può aiutarti a:

    • Può contribuire a proteggere dagli attacchi di prompt injection.
    • Può contribuire a garantire che le richieste vadano a buon fine e che le risposte siano quelle previste.

Funzionalità non ancora supportate

Molte di queste funzionalità non ancora supportate non sono disponibili solo nella release iniziale, quindi consulta le note di rilascio per gli aggiornamenti.

Funzionalità di Firebase AI Logic non ancora supportate

I modelli di prompt del server non supportano ancora le seguenti funzionalità di Firebase AI Logic. Molte di queste funzionalità saranno disponibili a breve.

  • Chat
  • Utilizzo di strumenti (inclusi chiamata di funzione e grounding con la Ricerca Google)
  • Modifica iterativa delle immagini (chat) con i modelli Gemini (richiede la chat)
  • Modificare le immagini con i modelli Imagen
  • Streaming bidirezionale (API Gemini Live)
  • Ibrido sul dispositivo
  • Limitare l'output a un elenco di enumerazioni
  • Configurazione delle impostazioni relative al pensiero
  • Configurazione delle impostazioni di sicurezza

Tieni inoltre presente che se utilizzi il monitoraggio dell'AI nella console Firebase, l'ID modello non è ancora compilato in alcun record.

Elementi comuni di Dotprompt non ancora supportati

I modelli di prompt del server probabilmente a breve supporteranno i seguenti elementi comuni di Dotprompt:

  • Utilizzando la specifica dello schema JSON per gli schemi di input e output nel frontmatter.

    • Tieni presente che questa specifica non è supportata nemmeno nelle richieste di modelli non server. Al momento supportiamo solo la specifica dello schema OpenAPI.

  • Dichiarazione di una definizione di campo jolly utilizzando *.

  • Utilizzando @key o eseguendo l'iterazione sui campi di un input oggetto (che è il caso in cui @key è pertinente).

  • Utilizzando @root, che ti consente di fare riferimento al contesto della variabile principale indipendentemente dall'attuale this.

I modelli di prompt del server probabilmente non supporteranno i seguenti elementi comuni di Dotprompt:

  • Utilizzo di partial, ovvero snippet di modelli riutilizzabili che possono essere inclusi in altri modelli.

Altre considerazioni

  • Per impostazione predefinita, quando utilizzi la UI guidata nella console Firebase, il modello viene sottoposto a provisioning in tutte le regioni disponibili per Firebase AI Logic. Se utilizzi Vertex AI Gemini API e il tuo caso d'uso richiede limitazioni basate sulla posizione, puoi specificare la posizione per il modello utilizzando l'API REST.

  • Se vuoi fornire un modello di prompt del server come file (anziché utilizzare la UI guidata della console Firebase), puoi utilizzare l'API REST. Tieni presente che i modelli di prompt del server non supportano lo schema definito nel codice dell'app e passato al modello.

  • Anche se il modello si trova sul server, non può interagire direttamente con le altre risorse lato server del progetto Firebase (come un database) ad eccezione degli URL Cloud Storage for Firebase (che possono essere forniti come variabili di input).