Esta página descreve algumas práticas recomendadas e considerações para modelos de comandos do servidor, incluindo recursos que ainda não são compatíveis. Muitos desses recursos vão ficar disponíveis à medida que os modelos de comandos do servidor evoluírem. Consulte as notas da versão para conferir as atualizações.
Práticas recomendadas
Muitas dessas práticas recomendadas também são detalhadas em Gerenciar seus modelos.
Criar versões dos modelos
Crie IDs de modelo anexados a uma versão que usa o controle de versão semântico (semver).
Use Firebase Remote Config para mudar facilmente o modelo e outros valores na sua solicitação.
Proteger o modelo
Evite editar modelos usados na produção, a menos que você tenha testado a mudança.
Bloqueie o modelo antes de ir para a produção.
O bloqueio de um modelo atua como proteção contra edições não intencionais, mas o bloqueio não impede totalmente a edição. Um membro do projeto com as permissões adequadas sempre pode desbloquear um modelo para editá-lo.
Recomendamos bloquear modelos que estão sendo usados ativamente pelo código, especialmente o código de produção.
Proteger o uso do Gemini API
Crie uma validação de entrada forte para suas variáveis de entrada, o que pode ajudar com o seguinte:
- Pode ajudar a proteger contra injeção de comandos.
- Pode ajudar a garantir que as solicitações sejam bem-sucedidas e que as respostas sejam as esperadas.
Aplique o modo somente modelo para seu projeto do Firebase para que todas as solicitações Gemini API via Firebase AI Logic precisem usar um modelo de comando do servidor.
Recursos que ainda não são compatíveis com modelos de comandos do servidor
Muitos desses recursos vão ficar disponíveis à medida que os modelos de comandos do servidor evoluírem, consulte as notas da versão para conferir as atualizações.
Recursos de Firebase AI Logic que ainda não são compatíveis com modelos
Os seguintes recursos padrão de Firebase AI Logic ainda não são compatíveis com modelos de comandos do servidor:
- Streaming bidirecional (Gemini Live API)
- Inferência híbrida ou no dispositivo
- Restringir a saída a uma lista de enums
Além disso, se você usar o monitoramento de IA no console Firebase, o ID do modelo ainda não será preenchido em nenhum registro.
Elementos comuns do Dotprompt que ainda não são compatíveis com modelos
Os modelos de comandos do servidor provavelmente vão oferecer suporte em breve aos seguintes elementos comuns do Dotprompt:
Usar a especificação de esquema JSON para esquemas de entrada e saída no seu frontmatter.
- Essa especificação também não é compatível com solicitações de modelo não servidor. No momento, só oferecemos suporte à especificação de esquema OpenAPI.
Declarar uma definição de campo curinga usando
*.Usar
@keyou iterar geralmente nos campos de uma entrada de objeto (que é o caso em que@keyé relevante).Usar
@root, que permite referenciar o contexto da variável raiz, independentemente dothisatual.
Os modelos de comandos do servidor provavelmente não vão oferecer suporte aos seguintes elementos comuns do Dotprompt:
- Usar parciais, que são snippets de modelo reutilizáveis que podem ser incluídos em outros modelos.
Outras considerações
Por padrão, quando você usa a interface guiada no console Firebase, nós provisionamos o modelo em todas as regiões disponíveis para Firebase AI Logic. Se você usar o Vertex AI Gemini API e seu caso de uso exigir restrições baseadas em local, você pode especificar o local do modelo usando a API REST.
Se você quiser fornecer um modelo de comando do servidor como um arquivo (em vez de usar a interface guiada do console Firebase), use a API REST. Os modelos de comandos do servidor não oferecem suporte a esquemas definidos no código do app e transmitidos ao modelo.
Embora o modelo esteja no servidor, ele não pode interagir diretamente com outros recursos do lado do servidor do seu projeto do Firebase (como um banco de dados) exceto para Cloud Storage for Firebase URLs (que podem ser fornecidos como variáveis de entrada ).