Best practice e considerazioni per i modelli


Questa pagina descrive alcune best practice e considerazioni per i modelli di prompt del server, incluse le funzionalità non ancora supportate. Tieni presente che molte di queste funzionalità diventeranno disponibili man mano che i modelli di prompt del server si evolvono, quindi controlla le note di rilascio per gli aggiornamenti.

Best practice

Molte di queste best practice sono descritte anche in Gestire i modelli.

Versionare i modelli

Proteggere il modello

  • Evita di modificare i modelli utilizzati in produzione, a meno che tu non abbia testato approfonditamente la modifica.

  • Blocca il modello prima di passare alla produzione.

    • Il blocco di un modello funge da protezione contro modifiche involontarie, ma il blocco nonimpedisce completamente la modifica. Un membro del progetto con le autorizzazioni appropriate può sempre sbloccare un modello per modificarlo.

    • Ti consigliamo di bloccare i modelli utilizzati attivamente dal codice, in particolare il codice di produzione.

Proteggere l'utilizzo di Gemini API

  • Scrivi una convalida dell'input efficace per le variabili di input, che può aiutarti con quanto segue:

    • Può contribuire a proteggere dal prompt injection.
    • Può contribuire a garantire che le richieste vadano a buon fine e che le risposte siano quelle previste.

  • Applica la modalità solo template per il tuo progetto Firebase in modo che tutte le richieste Gemini API tramite Firebase AI Logic debbano utilizzare un template di prompt del server.

Funzionalità non ancora supportate dai modelli di prompt del server

Molte di queste funzionalità diventeranno disponibili man mano che i modelli di prompt del server si evolveranno, quindi consulta le note di rilascio per gli aggiornamenti.

Funzionalità di Firebase AI Logic non ancora supportate dai modelli

Le seguenti funzionalità standard di Firebase AI Logic non sono ancora supportate tramite i modelli di prompt del server:

  • Streaming bidirezionale (Gemini Live API)
  • Inferenza ibrida o on-device
  • Limitare l'output a un elenco di enumerazioni

Tieni inoltre presente che se utilizzi il monitoraggio AI nella console Firebase, l'ID modello non è ancora compilato in alcun record.

Elementi comuni di Dotprompt non ancora supportati dai modelli

I modelli di prompt del server probabilmente a breve supporteranno i seguenti elementi comuni di Dotprompt:

  • Utilizzando la specifica dello schema JSON per gli schemi di input e output nel frontmatter.

    • Tieni presente che questa specifica non è supportata nemmeno nelle richieste di modelli non server. Al momento supportiamo solo la specifica dello schema OpenAPI.

  • Dichiarazione di una definizione di campo jolly utilizzando *.

  • Utilizzando @key o in generale iterando i campi di un input oggetto (che è il caso in cui @key è pertinente).

  • Utilizzando @root, che ti consente di fare riferimento al contesto della variabile radice indipendentemente dall'this corrente.

I modelli di prompt del server probabilmente non supporteranno i seguenti elementi comuni di Dotprompt:

  • Utilizzo di partial, ovvero snippet di modelli riutilizzabili che possono essere inclusi in altri modelli.

Altre considerazioni

  • Per impostazione predefinita, quando utilizzi la UI guidata nella console Firebase, il modello viene sottoposto a provisioning in tutte le regioni disponibili per Firebase AI Logic. Se utilizzi Vertex AI Gemini API e il tuo caso d'uso richiede limitazioni basate sulla posizione, puoi specificare la posizione per il modello utilizzando l'API REST.

  • Se vuoi fornire un modello di prompt del server come file (anziché utilizzare la UI guidata della console Firebase), puoi utilizzare l'API REST. Tieni presente che i modelli di prompt del server non supportano lo schema definito nel codice dell'app e passato al modello.

  • Anche se il modello si trova sul server, non può interagire direttamente con le altre risorse lato server del progetto Firebase (come un database) ad eccezione degli URL Cloud Storage for Firebase (che possono essere forniti come variabili di input).