ปลั๊กอิน Google Generative AI

ปลั๊กอิน Generative AI ของ Google มีอินเทอร์เฟซสำหรับโมเดล Gemini ของ Google ผ่าน Gemini API

การติดตั้ง

npm i --save @genkit-ai/googleai

การกำหนดค่า

หากต้องการใช้ปลั๊กอินนี้ ให้ระบุเมื่อเรียกใช้ configureGenkit()

import { googleAI } from '@genkit-ai/googleai';

export default configureGenkit({
  plugins: [googleAI()],
  // ...
});

ปลั๊กอินต้องใช้คีย์ API สำหรับ Gemini API ซึ่งดาวน์โหลดได้จาก Google AI Studio

กำหนดค่าปลั๊กอินเพื่อใช้คีย์ API โดยทำอย่างใดอย่างหนึ่งต่อไปนี้

• ตั้งค่าตัวแปรสภาพแวดล้อม GOOGLE_GENAI_API_KEY เป็นคีย์ API

• ระบุคีย์ API เมื่อเริ่มต้นใช้งานปลั๊กอิน

  googleAI({ apiKey: yourKey });
  

  อย่างไรก็ตาม อย่าฝังคีย์ API ในโค้ดโดยตรง ใช้ฟีเจอร์นี้เท่านั้น บริการอย่างเช่น Cloud Secret Manager หรือบริการอื่นๆ ที่คล้ายกัน

โมเดลบางรุ่น (เช่น Gemini 1.5 Pro) อยู่ในช่วงทดลองใช้และพร้อมใช้งานผ่าน v1betaAPI เท่านั้น คุณระบุ apiVersion เพื่อเข้าถึงโมเดลเหล่านั้นได้

configureGenkit({
  plugins: [googleAI({ apiVersion: 'v1beta' })],
});

หรือคุณสามารถระบุได้หลายเวอร์ชันหากต้องการใช้ ในเวลาเดียวกัน

configureGenkit({
  plugins: [googleAI({ apiVersion: ['v1', 'v1beta'] })],
});

การใช้งาน

ปลั๊กอินนี้จะส่งออกการอ้างอิงแบบคงที่ไปยังโมเดลที่รองรับ ดังนี้

import {
  gemini15Flash,
  gemini15Pro,
  textEmbeddingGecko001,
} from '@genkit-ai/googleai';

คุณสามารถใช้การอ้างอิงเหล่านี้เพื่อระบุโมเดลที่ generate() ใช้ ดังนี้

const llmResponse = await generate({
  model: gemini15Flash,
  prompt: 'Tell me a joke.',
});

หรือใช้เครื่องมือฝัง (เช่น textEmbeddingGecko001) กับ embed หรือผู้รับส่ง:

const embedding = await embed({
  embedder: textEmbeddingGecko001,
  content: input,
});

API ไฟล์ Gemini

คุณสามารถใช้ไฟล์ที่อัปโหลดไปยัง Gemini Files API กับ Genkit ได้โดยทำดังนี้

import { GoogleAIFileManager } from '@google/generative-ai/server';

const fileManager = new GoogleAIFileManager(process.env.GOOGLE_GENAI_API_KEY);
const uploadResult = await fileManager.uploadFile(
  'path/to/file.jpg',
  {
    mimeType: 'image/jpeg',
    displayName: 'Your Image',
  }
);

const response = await generate({
  model: gemini15Flash,
  prompt: [
    {text: 'Describe this image:'},
    {media: {contentType: uploadResult.file.mimeType, url: uploadResult.file.uri}}
  ]
});

โมเดลที่ปรับแต่ง

คุณสามารถใช้โมเดลที่ปรับแต่งด้วย Google Gemini API ทำตามวิธีการจาก Gemini API หรือปรับแต่งโมเดลโดยใช้ AI Studio

กระบวนการปรับแต่งจะใช้โมเดลพื้นฐาน เช่น Gemini 1.5 Flash และตัวอย่างที่คุณให้ไว้เพื่อสร้างโมเดลใหม่ที่ปรับแต่งแล้ว จดจำโมเดลพื้นฐานที่ใช้และคัดลอกรหัสของโมเดลใหม่

เมื่อเรียกใช้โมเดลที่ปรับแต่งใน Genkit ให้ใช้โมเดลฐานเป็นพารามิเตอร์ model และส่งรหัสของโมเดลที่ปรับแต่งเป็นส่วนหนึ่งของบล็อก config ตัวอย่างเช่น หากคุณใช้ Gemini 1.5 Flash เป็นโมเดลพื้นฐานและได้รับรหัสโมเดล tunedModels/my-example-model-apbm8oqbvuv2 คุณสามารถเรียกใช้ด้วยบล็อกดังต่อไปนี้

const llmResponse = await generate({
  prompt: `Suggest an item for the menu of fish themed restruant`,
  model: gemini15Flash,
  config: {
    version: "tunedModels/my-example-model-apbm8oqbvuv2",
  },
});