Google Generative AI 插件

Google Generative AI 插件通过 Gemini API 提供了与 Google Gemini 模型的接口。

安装

npm i --save @genkit-ai/googleai

配置

如需使用此插件,请在调用 configureGenkit() 时指定该插件:

import { googleAI } from '@genkit-ai/googleai';

export default configureGenkit({
  plugins: [googleAI()],
  // ...
});

该插件需要 Gemini API 的 API 密钥(您可以从 Google AI Studio 获取)。

通过执行以下任一操作,将插件配置为使用您的 API 密钥:

  • GOOGLE_GENAI_API_KEY 环境变量设置为您的 API 密钥。

  • 在初始化插件时指定 API 密钥:

    googleAI({ apiKey: yourKey });
    

    不过,请勿直接在代码中嵌入 API 密钥!请将此功能与 Cloud Secret Manager 等服务结合使用。

某些模型(如 Gemini 1.5 Pro)目前处于预览版阶段,只能通过 v1beta API 使用。您可以指定 apiVersion 以获取这些模型的访问权限:

configureGenkit({
  plugins: [googleAI({ apiVersion: 'v1beta' })],
});

如果要同时使用不同版本的模型,可以指定多个版本。

configureGenkit({
  plugins: [googleAI({ apiVersion: ['v1', 'v1beta'] })],
});

用量

此插件会以静态方式将引用导出到其受支持模型的引用:

import {
  geminiPro,
  geminiProVision,
  textEmbeddingGecko001,
} from '@genkit-ai/googleai';

您可以使用以下引用来指定 generate() 使用的模型:

const llmResponse = await generate({
  model: geminiPro,
  prompt: 'Tell me a joke.',
});

或使用嵌入器(例如textEmbeddingGecko001)与 embed 或检索器结合使用:

const embedding = await embed({
  embedder: textEmbeddingGecko001,
  content: input,
});