Lorsque vous appelez Gemini API à partir de votre application à l'aide d'un SDK Vertex AI in Firebase, vous pouvez demander au modèle Gemini de générer du texte à partir d'une entrée multimodale. Les requêtes multimodales peuvent inclure plusieurs modalités (ou types d'entrée), comme du texte avec des images, des PDF, des vidéos et de l'audio.
Pour tester et effectuer des itérations des requêtes multimodales, nous vous recommandons d'utiliser Vertex AI Studio.
Avant de commencer
Si vous ne l'avez pas déjà fait, suivez le guide de démarrage pour les SDK Vertex AI in Firebase. Assurez-vous d'avoir effectué les opérations suivantes :
Configurez un projet Firebase nouveau ou existant, en utilisant le forfait Blaze et en activant les API requises.
Connectez votre application à Firebase, y compris en l'enregistrant et en ajoutant votre configuration Firebase à votre application.
Ajoutez le SDK, puis initialisez le service Vertex AI et le modèle génératif dans votre application.
Une fois que vous avez connecté votre application à Firebase, ajouté le SDK et initialisé le service Vertex AI et le modèle génératif, vous êtes prêt à appeler Gemini API.
- Générer du texte à partir de texte et d'une seule image
- Générer du texte à partir de texte et de plusieurs images
- Générer du texte à partir de texte et d'une vidéo
Générer du texte à partir de texte et d'une seule image
Assurez-vous d'avoir terminé la section Avant de commencer de ce guide avant d'essayer cet exemple.
Vous pouvez appeler Gemini API avec des invites multimodales qui incluent à la fois du texte et un seul fichier (comme une image, comme illustré dans cet exemple). Pour ces appels, vous devez utiliser un modèle compatible avec les requêtes multimodales (comme Gemini 1.5 Pro).
Les fichiers acceptés incluent les images, les PDF, les vidéos, les fichiers audio, etc. Veillez à consulter les exigences et recommandations pour les fichiers d'entrée.
Indiquez si vous souhaitez diffuser la réponse (generateContentStream) ou attendre la réponse jusqu'à ce que le résultat complet soit généré (generateContent).
Streaming
Vous pouvez obtenir des interactions plus rapides en n'attendant pas l'intégralité du résultat de la génération du modèle. Utilisez plutôt le traitement par flux pour gérer les résultats partiels.
Sans streaming
Vous pouvez également attendre le résultat complet au lieu de le diffuser en streaming. Le résultat n'est renvoyé qu'une fois que le modèle a terminé l'ensemble du processus de génération.
Découvrez comment choisir un modèle Gemini et éventuellement une localisation adaptée à votre cas d'utilisation et à votre application.
Générer du texte à partir de texte et de plusieurs images
Assurez-vous d'avoir terminé la section Avant de commencer de ce guide avant d'essayer cet exemple.
Vous pouvez appeler Gemini API avec des requêtes multimodales qui incluent à la fois du texte et plusieurs fichiers (comme des images, comme illustré dans cet exemple). Pour ces appels, vous devez utiliser un modèle compatible avec les requêtes multimodales (comme Gemini 1.5 Pro).
Les fichiers acceptés incluent les images, les PDF, les vidéos, les fichiers audio, etc. Veillez à consulter les exigences et recommandations pour les fichiers d'entrée.
Indiquez si vous souhaitez diffuser la réponse (generateContentStream) ou attendre la réponse jusqu'à ce que le résultat complet soit généré (generateContent).
Streaming
Vous pouvez accélérer les interactions en n'attendant pas le résultat complet de la génération du modèle, et en utilisant plutôt le streaming pour gérer les résultats partiels.
Sans streaming
Vous pouvez également attendre le résultat complet au lieu de le diffuser. Le résultat n'est renvoyé qu'une fois que le modèle a terminé l'ensemble du processus de génération.
Découvrez comment choisir un modèle Gemini et éventuellement un emplacement adapté à votre cas d'utilisation et à votre application.
Générer du texte à partir de texte et d'une vidéo
Assurez-vous d'avoir suivi la section Avant de commencer de ce guide avant d'essayer cet exemple.
Vous pouvez appeler Gemini API avec des requêtes multimodales qui incluent à la fois du texte et une seule vidéo (comme indiqué dans cet exemple). Pour ces appels, vous devez utiliser un modèle compatible avec les requêtes multimodales (comme Gemini 1.5 Pro).
Veillez à consulter les exigences et recommandations concernant les fichiers d'entrée.
Indiquez si vous souhaitez diffuser la réponse (generateContentStream) ou attendre la réponse jusqu'à ce que le résultat complet soit généré (generateContent).
Streaming
Vous pouvez obtenir des interactions plus rapides en n'attendant pas l'intégralité du résultat de la génération du modèle. Utilisez plutôt le traitement par flux pour gérer les résultats partiels.
Sans streaming
Vous pouvez également attendre l'intégralité du résultat au lieu de le diffuser. Le résultat n'est renvoyé qu'une fois que le modèle a terminé l'ensemble du processus de génération.
Découvrez comment choisir un modèle Gemini et éventuellement une localisation adaptée à votre cas d'utilisation et à votre application.
Exigences et recommandations concernant les fichiers d'entrée
Pour en savoir plus sur les types de fichiers compatibles et sur la manière de spécifier le type MIME, et pour vous assurer que vos fichiers et requêtes multimodales répondent aux exigences et respectent les bonnes pratiques, consultez la section Fichiers d'entrée compatibles et exigences pour le Vertex AI Gemini API.
Qu'est-ce que tu sais faire d'autre ?
- Découvrez comment compter les jetons avant d'envoyer des requêtes longues au modèle.
- Configurez Cloud Storage for Firebase pour pouvoir inclure de gros fichiers dans vos requêtes multimodales à l'aide d'URL Cloud Storage. Les fichiers peuvent inclure des images, des PDF, des vidéos et des fichiers audio.
- Commencez à penser à la préparation de la production, y compris à la configuration de Firebase App Check pour protéger Gemini API contre les utilisations abusives par des clients non autorisés.
Essayez d'autres fonctionnalités de Gemini API
- Créez des conversations multitours (chat).
- Générez du texte à partir de requêtes textuelles uniquement.
- Générez une sortie structurée (comme JSON) à partir d'invites textuelles et multimodales.
- Utilisez l'appel de fonction pour connecter des modèles génératifs à des systèmes et des informations externes.
Découvrez comment contrôler la génération de contenu
- Comprendre la conception des requêtes, y compris les bonnes pratiques, les stratégies et les exemples de requêtes.
- Configurez les paramètres du modèle, tels que la température et le nombre maximal de jetons de sortie.
- Utilisez les paramètres de sécurité pour ajuster la probabilité d'obtenir des réponses considérées comme nuisibles.
En savoir plus sur les modèles Gemini
Découvrez les modèles disponibles pour différents cas d'utilisation, ainsi que leurs quotas et tarifs.Envoyer des commentaires sur votre expérience avec Vertex AI in Firebase