Best practice e considerazioni per i modelli


Questa pagina descrive alcune best practice e considerazioni per i template di prompt del server, incluse le funzionalità non ancora supportate. Tieni presente che molte di queste funzionalità diventeranno disponibili man mano che i template di prompt del server si evolvono, quindi consulta le note di rilascio per gli aggiornamenti.

Best practice

Molte di queste best practice sono descritte in dettaglio anche in Gestisci i modelli.

Crea versioni dei template

Proteggi il tuo modello

  • Evita di modificare i template utilizzati in produzione, a meno che tu non abbia testato accuratamente la modifica.

  • Blocca il modello prima di passare alla produzione.

    • Il blocco di un modello funge da protezione contro le modifiche involontarie, ma non blocca completamente le modifiche. Un membro del progetto con le autorizzazioni appropriate può sempre sbloccare un modello per modificarlo.

    • Ti consigliamo di bloccare i modelli utilizzati attivamente dal codice, in particolare dal codice di produzione.

Proteggi l'utilizzo di Gemini API

  • Scrivi una convalida dell'input efficace per le variabili di input, che può aiutarti a:

    • Può aiutare a proteggersi dal prompt injection.
    • Può contribuire a garantire che le richieste vadano a buon fine e che le risposte siano quelle previste.

  • Applica la modalità solo template per il tuo progetto Firebase in modo che tutte le richieste Gemini API tramite Firebase AI Logic debbano utilizzare un template di prompt del server.

Funzionalità non ancora supportate dai template di prompt del server

Molte di queste funzionalità diventeranno disponibili man mano che i template di prompt del server si evolvono, quindi consulta le note di rilascio per gli aggiornamenti.

Funzionalità di Firebase AI Logic non ancora supportate dai modelli

Le seguenti funzionalità standard di Firebase AI Logic non sono ancora supportate tramite i template di prompt del server:

  • Streaming bidirezionale (Gemini Live API)
  • Inferenza ibrida o on-device
  • Limitazione dell'output a un elenco di enum

Tieni presente inoltre che se utilizzi il monitoraggio AI nella console Firebase, l'ID template non è ancora compilato in nessun record.

Elementi comuni di Dotprompt non ancora supportati dai template

I template di prompt del server probabilmente supporteranno presto i seguenti elementi comuni di Dotprompt:

  • Utilizzando la specifica dello schema JSON per gli schemi di input e output nel frontmatter.

    • Tieni presente che questa specifica non è supportata nemmeno nelle richieste di modelli non lato server. Al momento supportiamo solo la specifica dello schema OpenAPI.

  • Dichiarazione di una definizione di campo con caratteri jolly utilizzando *.

  • Utilizzo di @key o, in generale, iterazione sui campi di un input di oggetto (che è il caso in cui @key è pertinente).

  • Utilizzando @root, che ti consente di fare riferimento al contesto della variabile root indipendentemente dal this corrente.

I template di prompt del server probabilmente non supporteranno i seguenti elementi comuni di Dotprompt:

  • Utilizzando i partial, ovvero snippet di modelli riutilizzabili che possono essere inclusi in altri modelli.

Altre considerazioni

  • Per impostazione predefinita, quando utilizzi la UI guidata nella console Firebase, eseguiamo il provisioning del template in tutte le regioni supportate per Firebase AI Logic. Se utilizzi Agent Platform Gemini API (formerly Vertex AI) e il tuo caso d'uso richiede limitazioni basate sulla località, puoi specificare la località per il tuo template utilizzando l'API REST.

  • Se vuoi fornire un template di prompt del server come file (anziché utilizzare la UI guidata della console Firebase), puoi utilizzare l'API REST. Tieni presente che i template di prompt del server non supportano lo schema definito nel codice dell'app e passato al template.

  • Anche se il modello si trova sul server, non può interagire direttamente con le altre risorse lato server del tuo progetto Firebase (come un database), ad eccezione degli URL Cloud Storage for Firebase (che possono essere forniti come variabili di input).