אפשרויות הגדרה של חוויות היברידיות באפליקציות אינטרנט

בדף הזה נתאר את אפשרויות ההגדרה הבאות:

• הגדרת מצב הסקה

• שינוי מודל ברירת המחדל החלופי שמתארח בענן

• שימוש בהגדרת המודל כדי לשלוט בתגובות

אפשר גם ליצור פלט מובנה, כולל JSON ו-enums.

לפני שמתחילים

מוודאים שסיימתם את השלבים במדריך לתחילת העבודה עם חוויות היברידיות.

הגדרת מצב היסק

הדוגמאות במדריך לתחילת הדרך משתמשות במצב PREFER_ON_DEVICE, אבל זה רק אחד מארבעת מצבי ההיסק הזמינים.

• ‫PREFER_ON_DEVICE: שימוש במודל במכשיר אם הוא זמין, ואם לא, חזרה למודל שמתארח בענן.

  const model = getGenerativeModel(ai, { mode: InferenceMode.PREFER_ON_DEVICE });
  

• ‫ONLY_ON_DEVICE: שימוש במודל במכשיר אם הוא זמין, אחרת הצגת חריגה.

  const model = getGenerativeModel(ai, { mode: InferenceMode.ONLY_ON_DEVICE });
  

• ‫PREFER_IN_CLOUD: שימוש במודל שמתארח בענן אם הוא זמין, ואם לא, חזרה למודל במכשיר.

  const model = getGenerativeModel(ai, { mode: InferenceMode.PREFER_IN_CLOUD });
  

• ‫ONLY_IN_CLOUD: שימוש במודל שמתארח בענן אם הוא זמין, אחרת הצגת חריגה.

  const model = getGenerativeModel(ai, { mode: InferenceMode.ONLY_IN_CLOUD });
  

איך קובעים אם נעשה שימוש בהסקת מסקנות במכשיר או בענן

אם אתם משתמשים במצבי ההסקה PREFER_ON_DEVICE או PREFER_IN_CLOUD, יכול להיות שתרצו לדעת באיזה מצב נעשה שימוש בבקשות מסוימות. המידע הזה מסופק על ידי המאפיין inferenceSource של כל תשובה (זמין החל מ-JS SDK בגרסה 12.5.0).

כשניגשים למאפיין הזה, הערך שמוחזר יהיה ON_DEVICE או IN_CLOUD.

// ...

console.log('You used: ' + result.response.inferenceSource);

console.log(result.response.text());

שינוי מודל ברירת המחדל של חזרה למצב קודם

מודל ברירת המחדל שמתארח בענן הוא gemini-3.5-flash-lite (החל מגרסה 13.0.0 של JS SDK).

המודל הזה הוא המודל החלופי שמתארח בענן כשמשתמשים במצב PREFER_ON_DEVICE. זה גם המודל שמוגדר כברירת מחדל כשמשתמשים במצב ONLY_IN_CLOUD או במצב PREFER_IN_CLOUD.

אפשר להשתמש באפשרות ההגדרה inCloudParams כדי לציין מודל חלופי שמתארח בענן כברירת מחדל.

const model = getGenerativeModel(ai, {
  mode: InferenceMode.INFERENCE_MODE,
  inCloudParams: {
    model: "GEMINI_MODEL_NAME"
  }
});

מצא שמות מודלים עבור כל מודלי Gemini הנתמכים

שימוש בהגדרות המודל כדי לשלוט בתשובות

בכל בקשה למודל, אתם יכולים לשלוח הגדרות מודל כדי לקבוע איך המודל ייצור תשובה. למודלים שמתארחים בענן ולמודלים במכשיר יש אפשרויות הגדרה שונות.

ההגדרה נשמרת למשך מחזור החיים של המופע. אם רוצים להשתמש בהגדרות אישיות אחרות, צריך ליצור מופע חדש של GenerativeModel עם ההגדרות האישיות האלה.

הגדרת מודל שמתארח בענן

משתמשים באפשרות inCloudParams כדי להגדיר מודל Gemini שמתארח בענן. מידע נוסף על הפרמטרים הזמינים

const model = getGenerativeModel(ai, {
  mode: InferenceMode.INFERENCE_MODE,
  inCloudParams: {
    model: "GEMINI_MODEL_NAME",
    generationConfig: {
      maxOutputTokens: 200,
      stopSequences: ["red"]
    }
  }
});

הגדרת מודל לעיבוד במכשיר

שימו לב שההסקה באמצעות מודל במכשיר מתבצעת באמצעות Prompt API מ-Chrome.

כדי להגדיר מודל במכשיר, משתמשים באפשרות onDeviceParams. מידע נוסף על הפרמטרים הזמינים

const model = getGenerativeModel(ai, {
  mode: InferenceMode.INFERENCE_MODE,
  onDeviceParams: {
    createOptions: {
      expectedInputs: [{ type: "text", languages: ["en"] }],
      expectedOutputs: [{ type: "text", languages: ["en"] }],
      initialPrompts: [
        { role: "system", content: [{ type: "text", value: "You are a helpful and concise assistant." }] }
      ]
    }
  }
});

רוצה לתת משוב על חוויית השימוש ב-Firebase AI Logic?