Trình bổ trợ AI tạo sinh của Google

Trình bổ trợ AI tạo sinh của Google cung cấp giao diện cho các mô hình Gemini của Google thông qua API Gemini.

Lắp đặt

npm i --save @genkit-ai/googleai

Cấu hình

Để sử dụng trình bổ trợ này, hãy chỉ định trình bổ trợ đó khi bạn khởi chạy Genkit:

import { genkit } from 'genkit';
import { googleAI } from '@genkit-ai/googleai';

const ai = genkit({
  plugins: [googleAI()],
});

Trình bổ trợ này yêu cầu một khoá API cho Gemini API. Bạn có thể lấy khoá này từ Google AI Studio.

Định cấu hình trình bổ trợ để sử dụng khoá API bằng cách làm theo một trong những cách sau:

• Đặt biến môi trường GOOGLE_GENAI_API_KEY thành khoá API của bạn.

• Chỉ định khoá API khi bạn khởi chạy trình bổ trợ:

  googleAI({ apiKey: yourKey });
  

  Tuy nhiên, đừng nhúng khoá API trực tiếp vào mã! Chỉ sử dụng tính năng này cùng với một dịch vụ như Trình quản lý khoá bí mật trên đám mây hoặc dịch vụ tương tự.

Cách sử dụng

Trình bổ trợ này xuất tham chiếu tĩnh đến các mô hình được hỗ trợ:

import {
  gemini15Flash,
  gemini15Pro,
  textEmbedding004,
} from '@genkit-ai/googleai';

Bạn có thể sử dụng các tệp tham chiếu này để chỉ định mô hình mà generate() sử dụng:

const ai = genkit({
  plugins: [googleAI()],
  model: gemini15Flash,
});

const llmResponse = await ai.generate('Tell me a joke.');

hoặc sử dụng trình nhúng (ví dụ: textEmbedding004) với embed hoặc trình truy xuất:

const ai = genkit({
  plugins: [googleAI()],
});

const embedding = await ai.embed({
  embedder: textEmbedding004,
  content: input,
});

Gemini Files API

Bạn có thể sử dụng các tệp được tải lên Gemini Files API bằng Genkit:

import { GoogleAIFileManager } from '@google/generative-ai/server';
import { genkit } from 'genkit';
import { googleAI } from '@genkit-ai/googleai';

const ai = genkit({
  plugins: [googleAI()],
});

const fileManager = new GoogleAIFileManager(process.env.GOOGLE_GENAI_API_KEY);
const uploadResult = await fileManager.uploadFile(
  'path/to/file.jpg',
  {
    mimeType: 'image/jpeg',
    displayName: 'Your Image',
  }
);

const response = await ai.generate({
  model: gemini15Flash,
  prompt: [
    {text: 'Describe this image:'},
    {media: {contentType: uploadResult.file.mimeType, url: uploadResult.file.uri}}
  ]
});

Mô hình được tinh chỉnh

Bạn có thể sử dụng các mô hình được tinh chỉnh bằng API Google Gemini. Làm theo hướng dẫn của Gemini API hoặc tinh chỉnh mô hình bằng AI Studio.

Quá trình điều chỉnh sử dụng một mô hình cơ sở (ví dụ: Gemini 1.5 Flash) và các ví dụ mà bạn cung cấp để tạo một mô hình điều chỉnh mới. Hãy nhớ mô hình cơ sở mà bạn đã sử dụng và sao chép mã nhận dạng của mô hình mới.

Khi gọi mô hình đã điều chỉnh trong Genkit, hãy sử dụng mô hình cơ sở làm tham số model và truyền mã nhận dạng của mô hình đã điều chỉnh dưới dạng một phần của khối config. Ví dụ: nếu đã sử dụng Gemini 1.5 Flash làm mô hình cơ sở và có mã mô hình tunedModels/my-example-model-apbm8oqbvuv2, bạn có thể gọi mô hình đó bằng:

const ai = genkit({
  plugins: [googleAI()],
});

const llmResponse = await ai.generate({
  prompt: `Suggest an item for the menu of fish themed restruant`,
  model: gemini15Flash.withConfig({
    version: "tunedModels/my-example-model-apbm8oqbvuv2",
  }),
});