Trình bổ trợ AI tạo sinh của Google

Trình bổ trợ AI tạo sinh của Google cung cấp giao diện cho các mô hình Gemini của Google thông qua API Gemini.

Cài đặt

npm i --save @genkit-ai/googleai

Cấu hình

Để sử dụng trình bổ trợ này, hãy chỉ định trình bổ trợ khi bạn gọi configureGenkit():

import { googleAI } from '@genkit-ai/googleai';

export default configureGenkit({
  plugins: [googleAI()],
  // ...
});

Trình bổ trợ này yêu cầu một khoá API cho API Gemini mà bạn có thể lấy từ Google AI Studio.

Định cấu hình trình bổ trợ để sử dụng khoá API bằng cách thực hiện một trong những thao tác sau:

  • Đặt biến môi trường GOOGLE_GENAI_API_KEY thành khoá API.

  • Chỉ định khoá API khi bạn khởi chạy trình bổ trợ:

    googleAI({ apiKey: yourKey });
    

    Tuy nhiên, đừng nhúng khoá API trực tiếp vào mã! Chỉ sử dụng tính năng này cùng với một dịch vụ như Cloud Secret Manager hoặc dịch vụ tương tự.

Một số mô hình (như Gemini 1.5 Pro) đang ở chế độ xem trước và chỉ có thể truy cập được thông qua API v1beta. Bạn có thể chỉ định apiVersion để có quyền truy cập vào các mô hình đó:

configureGenkit({
  plugins: [googleAI({ apiVersion: 'v1beta' })],
});

hoặc có thể chỉ định nhiều phiên bản nếu muốn sử dụng nhiều phiên bản mô hình cùng lúc.

configureGenkit({
  plugins: [googleAI({ apiVersion: ['v1', 'v1beta'] })],
});

Hoạt động sử dụng

Trình bổ trợ này xuất tĩnh các tệp tham chiếu đến các mô hình được hỗ trợ:

import {
  geminiPro,
  geminiProVision,
  textEmbeddingGecko001,
} from '@genkit-ai/googleai';

Bạn có thể sử dụng các tham chiếu này để chỉ định mô hình mà generate() sử dụng:

const llmResponse = await generate({
  model: geminiPro,
  prompt: 'Tell me a joke.',
});

hoặc sử dụng trình nhúng (ví dụ: textEmbeddingGecko001) bằng embed hoặc trình truy xuất:

const embedding = await embed({
  embedder: textEmbeddingGecko001,
  content: input,
});