Google Generative AI 外掛程式

Google 生成式 AI 外掛程式透過 Gemini API 提供 Google Gemini 模型的介面。

安裝項目

npm i --save @genkit-ai/googleai

設定

如要使用這個外掛程式,請在呼叫 configureGenkit() 時指定外掛程式:

import { googleAI } from '@genkit-ai/googleai';

export default configureGenkit({
  plugins: [googleAI()],
  // ...
});

外掛程式需要 Gemini API 的 API 金鑰,您可以從 Google AI Studio 取得。

執行下列其中一項操作,將外掛程式設為使用 API 金鑰:

  • GOOGLE_GENAI_API_KEY 環境變數設為您的 API 金鑰。

  • 在初始化外掛程式時指定 API 金鑰:

    googleAI({ apiKey: yourKey });
    

    不過,請不要直接將 API 金鑰嵌入程式碼中!請只將這項功能與 Cloud Secret Manager 或類似服務搭配使用。

部分模型 (例如 Gemini 1.5 Pro) 目前為預先發布版,只能透過 v1beta API 存取。您可以指定 apiVersion 來取得這些模型的存取權:

configureGenkit({
  plugins: [googleAI({ apiVersion: 'v1beta' })],
});

如果您想同時使用不同版本的模型,也可以指定多個版本

configureGenkit({
  plugins: [googleAI({ apiVersion: ['v1', 'v1beta'] })],
});

用量

這個外掛程式會以靜態方式將參照內容匯出至支援的模型:

import {
  geminiPro,
  geminiProVision,
  textEmbeddingGecko001,
} from '@genkit-ai/googleai';

您可以使用這些參照,指定 generate() 使用的模型:

const llmResponse = await generate({
  model: geminiPro,
  prompt: 'Tell me a joke.',
});

或使用嵌入工具 (例如textEmbeddingGecko001) 搭配 embed 或擷取器:

const embedding = await embed({
  embedder: textEmbeddingGecko001,
  content: input,
});