Wtyczka Google Generative AI udostępnia interfejsy do modeli Gemini Google za pomocą interfejsu API Gemini.
Instalacja
npm i --save @genkit-ai/googleai
Konfiguracja
Aby użyć tej wtyczki, podaj ją podczas wywoływania funkcji configureGenkit()
:
import { googleAI } from '@genkit-ai/googleai';
export default configureGenkit({
plugins: [googleAI()],
// ...
});
Wtyczka wymaga klucza API dla interfejsu Gemini API, który można uzyskać z Google AI Studio.
Skonfiguruj wtyczkę tak, aby używała klucza interfejsu API, wykonując jedną z tych czynności:
Ustaw zmienną środowiskową
GOOGLE_GENAI_API_KEY
na swój klucz interfejsu API.Określ klucz interfejsu API podczas inicjowania wtyczki:
googleAI({ apiKey: yourKey });
Nie umieszczaj jednak klucza interfejsu API bezpośrednio w kodzie. Używaj tej funkcji tylko w połączeniu z usługą taką jak Cloud Secret Manager lub podobną.
Niektóre modele (np. Gemini 1.5 Pro) są w wersji testowej i można z nich korzystać tylko za pomocą interfejsu API v1beta
. Aby uzyskać dostęp do tych modeli, określ apiVersion
:
configureGenkit({
plugins: [googleAI({ apiVersion: 'v1beta' })],
});
Możesz też określić wiele wersji, jeśli chcesz korzystać z różnych wersji modelu naraz.
configureGenkit({
plugins: [googleAI({ apiVersion: ['v1', 'v1beta'] })],
});
Wykorzystanie
Ta wtyczka statycznie eksportuje odwołania do obsługiwanych modeli:
import {
geminiPro,
geminiProVision,
textEmbeddingGecko001,
} from '@genkit-ai/googleai';
Możesz użyć tych odwołań, aby określić, którego modelu generate()
używa:
const llmResponse = await generate({
model: geminiPro,
prompt: 'Tell me a joke.',
});
lub używają narzędzi do umieszczania (np. textEmbeddingGecko001
) z parametrem embed
lub modułami do pobierania:
const embedding = await embed({
embedder: textEmbeddingGecko001,
content: input,
});