Lorsque vous appelez Gemini API à partir de votre application à l'aide d'un SDK Vertex AI in Firebase, vous pouvez demander au modèle Gemini de générer du texte à partir d'une entrée multimodale. Les requêtes multimodales peuvent inclure plusieurs modalités (ou types d'entrée), comme du texte avec des images, des PDF, des vidéos et de l'audio.
Pour tester et effectuer des itérations des requêtes multimodales, nous vous recommandons d'utiliser Vertex AI Studio.
Avant de commencer
Si vous ne l'avez pas déjà fait, suivez le guide de démarrage des SDK Vertex AI in Firebase. Assurez-vous d'avoir effectué les opérations suivantes:
Configurez un projet Firebase nouveau ou existant, y compris en utilisant le forfait Blaze et en activant les API requises.
Associez votre application à Firebase, y compris en l'enregistrant et en ajoutant votre configuration Firebase à votre application.
Ajoutez le SDK et initialisez le service Vertex AI et le modèle génératif dans votre application.
Une fois que vous avez connecté votre application à Firebase, ajouté le SDK et initialisé le service Vertex AI et le modèle génératif, vous pouvez appeler Gemini API.
- Générer du texte à partir de texte et d'une seule image
- Générer du texte à partir de texte et de plusieurs images
- Générer du texte à partir de texte et d'une vidéo
Générer du texte à partir de texte et d'une seule image
Assurez-vous d'avoir terminé la section Avant de commencer de ce guide avant d'essayer cet exemple.
Vous pouvez appeler Gemini API avec des invites multimodales qui incluent à la fois du texte et un seul fichier (comme une image, comme illustré dans cet exemple). Pour ces appels, vous devez utiliser un modèle compatible avec les requêtes multimodales (comme Gemini 1.5 Pro).
Les fichiers acceptés incluent les images, les PDF, les vidéos, les fichiers audio, etc. Veillez à consulter les exigences et recommandations concernant les fichiers d'entrée.
Choisissez si vous souhaitez diffuser la réponse (generateContentStream) ou attendre la réponse jusqu'à ce que le résultat complet soit généré (generateContent).
Streaming
Vous pouvez accélérer les interactions en n'attendant pas le résultat complet de la génération du modèle, et en utilisant plutôt le streaming pour gérer les résultats partiels.
Sans streaming
Vous pouvez également attendre le résultat complet au lieu de le diffuser en streaming. Le résultat n'est renvoyé qu'une fois que le modèle a terminé l'ensemble du processus de génération.
Découvrez comment choisir un modèle Gemini et éventuellement une localisation adaptée à votre cas d'utilisation et à votre application.
Générer du texte à partir de texte et de plusieurs images
Assurez-vous d'avoir terminé la section Avant de commencer de ce guide avant d'essayer cet exemple.
Vous pouvez appeler Gemini API avec des requêtes multimodales qui incluent à la fois du texte et plusieurs fichiers (comme des images, comme illustré dans cet exemple). Pour ces appels, vous devez utiliser un modèle compatible avec les requêtes multimodales (comme Gemini 1.5 Pro).
Les fichiers acceptés incluent les images, les PDF, les vidéos, les fichiers audio, etc. Veillez à consulter les exigences et recommandations concernant les fichiers d'entrée.
Choisissez si vous souhaitez diffuser la réponse (generateContentStream) ou attendre la réponse jusqu'à ce que le résultat complet soit généré (generateContent).
Streaming
Vous pouvez accélérer les interactions en n'attendant pas le résultat complet de la génération du modèle, et en utilisant plutôt le streaming pour gérer les résultats partiels.
Sans streaming
Vous pouvez également attendre le résultat complet au lieu de le diffuser. Le résultat n'est renvoyé qu'une fois que le modèle a terminé l'ensemble du processus de génération.
Découvrez comment choisir un modèle Gemini et éventuellement une localisation adaptée à votre cas d'utilisation et à votre application.
Générer du texte à partir de texte et d'une vidéo
Assurez-vous d'avoir terminé la section Avant de commencer de ce guide avant d'essayer cet exemple.
Vous pouvez appeler Gemini API avec des requêtes multimodales qui incluent à la fois du texte et une seule vidéo (comme indiqué dans cet exemple). Pour ces appels, vous devez utiliser un modèle compatible avec les requêtes multimodales (comme Gemini 1.5 Pro).
Veillez à consulter les exigences et recommandations concernant les fichiers d'entrée.
Choisissez si vous souhaitez diffuser la réponse (generateContentStream) ou attendre la réponse jusqu'à ce que le résultat complet soit généré (generateContent).
Streaming
Vous pouvez accélérer les interactions en n'attendant pas le résultat complet de la génération du modèle, et en utilisant plutôt le streaming pour gérer les résultats partiels.
Sans streaming
Vous pouvez également attendre le résultat complet au lieu de le diffuser en streaming. Le résultat n'est renvoyé qu'une fois que le modèle a terminé l'ensemble du processus de génération.
Découvrez comment choisir un modèle Gemini et éventuellement une localisation adaptée à votre cas d'utilisation et à votre application.
Exigences et recommandations concernant les fichiers d'entrée
Consultez la section Fichiers d'entrée compatibles et exigences pour Vertex AI Gemini API pour en savoir plus sur les éléments suivants:
- Différentes options pour fournir un fichier dans une requête
- Types de fichiers compatibles
- Types MIME compatibles et comment les spécifier
- Exigences et bonnes pratiques concernant les fichiers et les requêtes multimodales
Qu'est-ce que tu sais faire d'autre ?
- Découvrez comment compter les jetons avant d'envoyer des requêtes longues au modèle.
- Configurez Cloud Storage for Firebase pour pouvoir inclure de gros fichiers dans vos requêtes multimodales et disposer d'une solution plus gérée pour fournir des fichiers dans les requêtes. Les fichiers peuvent inclure des images, des PDF, des vidéos et des fichiers audio.
- Commencez à penser à la préparation de la production, y compris à la configuration de Firebase App Check pour protéger Gemini API contre les utilisations abusives par des clients non autorisés.
Essayer d'autres fonctionnalités de Gemini API
- Créez des conversations multitours (chat).
- Générez du texte à partir de requêtes textuelles uniquement.
- Générez une sortie structurée (comme JSON) à partir d'invites textuelles et multimodales.
- Utilisez l'appel de fonction pour connecter des modèles génératifs à des systèmes et des informations externes.
Découvrez comment contrôler la génération de contenu.
- Comprendre la conception des requêtes, y compris les bonnes pratiques, les stratégies et les exemples de requêtes.
- Configurez les paramètres du modèle, comme la température et le nombre maximal de jetons de sortie.
- Utilisez les paramètres de sécurité pour ajuster la probabilité d'obtenir des réponses pouvant être considérées comme dangereuses.
En savoir plus sur les modèles Gemini
Découvrez les modèles disponibles pour différents cas d'utilisation, ainsi que leurs quotas et tarifs.Envoyer des commentaires sur votre expérience avec Vertex AI in Firebase