הפלאגין של Google Generative AI

הפלאגין של Google Generative AI מספק ממשקים למודלים של Gemini מבית Google דרך Gemini API.

התקנה

npm i --save @genkit-ai/googleai

תצורה

כדי להשתמש בפלאגין הזה, צריך לציין אותו כשמאתחלים את Genkit:

import { genkit } from 'genkit';
import { googleAI } from '@genkit-ai/googleai';

const ai = genkit({
  plugins: [googleAI()],
});

כדי להשתמש בפלאגין, צריך מפתח API ל-Gemini API. אפשר לקבל אותו מ-Google AI Studio.

מגדירים את הפלאגין כך שישתמש במפתח ה-API שלכם באחת מהדרכים הבאות:

• מגדירים את משתנה הסביבה GOOGLE_GENAI_API_KEY למפתח ה-API.

• מציינים את מפתח ה-API כשמאתחלים את הפלאגין:

  googleAI({ apiKey: yourKey });
  

  עם זאת, אל תטמיעו את מפתח ה-API ישירות בקוד! מומלץ להשתמש בתכונה הזו רק בשילוב עם שירות כמו Cloud Secret Manager או שירות דומה.

שימוש

הפלאגין הזה מייצא באופן סטטי הפניות למודלים הנתמכים שלו:

import {
  gemini15Flash,
  gemini15Pro,
  textEmbedding004,
} from '@genkit-ai/googleai';

אפשר להשתמש בהפניות האלה כדי לציין את המודל שבו generate() משתמש:

const ai = genkit({
  plugins: [googleAI()],
  model: gemini15Flash,
});

const llmResponse = await ai.generate('Tell me a joke.');

או להשתמש ב-Embedders (למשל textEmbedding004) עם embed או עם פודים:

const ai = genkit({
  plugins: [googleAI()],
});

const embedding = await ai.embed({
  embedder: textEmbedding004,
  content: input,
});

Gemini Files API

אתם יכולים להשתמש בקבצים שהועלו ל-Gemini Files API באמצעות Genkit:

import { GoogleAIFileManager } from '@google/generative-ai/server';
import { genkit } from 'genkit';
import { googleAI } from '@genkit-ai/googleai';

const ai = genkit({
  plugins: [googleAI()],
});

const fileManager = new GoogleAIFileManager(process.env.GOOGLE_GENAI_API_KEY);
const uploadResult = await fileManager.uploadFile(
  'path/to/file.jpg',
  {
    mimeType: 'image/jpeg',
    displayName: 'Your Image',
  }
);

const response = await ai.generate({
  model: gemini15Flash,
  prompt: [
    {text: 'Describe this image:'},
    {media: {contentType: uploadResult.file.mimeType, url: uploadResult.file.uri}}
  ]
});

מודלים שעברו כוונון עדין

אתם יכולים להשתמש במודלים שמותאמים אישית באמצעות Google Gemini API. פועלים לפי ההוראות ב-Gemini API או משדרגים את המודל באמצעות AI Studio.

בתהליך ההתאמה משתמשים במודל בסיס – לדוגמה, Gemini 1.5 Flash – ובדוגמאות שסיפקתם כדי ליצור מודל חדש מותאם. חשוב לזכור את מודל הבסיס שבו השתמשתם, ולהעתיק את המזהה של המודל החדש.

כשקוראים למודל המכוונן ב-Genkit, משתמשים במודל הבסיס בתור הפרמטר model, ומעבירים את המזהה של המודל המכוונן כחלק מהבלוק config. לדוגמה, אם השתמשתם ב-Gemini 1.5 Flash בתור המודל הבסיסי וקיבלתם את מזהה המודל tunedModels/my-example-model-apbm8oqbvuv2, תוכלו להפעיל אותו באמצעות:

const ai = genkit({
  plugins: [googleAI()],
});

const llmResponse = await ai.generate({
  prompt: `Suggest an item for the menu of fish themed restruant`,
  model: gemini15Flash.withConfig({
    version: "tunedModels/my-example-model-apbm8oqbvuv2",
  }),
});