گزینه‌های پیکربندی برای تجربه‌های تلفیقی در برنامه‌های وب

این صفحه گزینه‌های پیکربندی زیر را شرح می‌دهد:

• تنظیم حالت استنتاج

• لغو کردن مدل جایگزین پیش‌فرض میزبانی‌شده در فضای ابری

• استفاده از پیکربندی مدل برای کنترل پاسخ‌ها

همچنین می‌توانید برونداد ساختاریافته تولید کنید، ازجمله JSON و شمارش.

قبل از شروع

مطمئن شوید که راهنمای شروع به کار برای ساختن تجربه‌های ترکیبی را تکمیل کرده‌اید.

تنظیم حالت استنتاج

نمونه‌های راهنمای شروع به کار از حالت PREFER_ON_DEVICE استفاده می‌کنند، اما این فقط یکی از چهار حالت استنتاج دردسترس است.

• PREFER_ON_DEVICE: اگر مدل درون‌دستگاهی دردسترس است، از آن استفاده کنید؛ درغیراین‌صورت، به مدل میزبانی‌شده در فضای ابری برگردید.

  const model = getGenerativeModel(ai, { mode: InferenceMode.PREFER_ON_DEVICE });
  

• ONLY_ON_DEVICE: اگر مدل درون‌دستگاهی دردسترس است، از آن استفاده کنید؛ درغیراین‌صورت، یک استثنا ایجاد کنید.

  const model = getGenerativeModel(ai, { mode: InferenceMode.ONLY_ON_DEVICE });
  

• PREFER_IN_CLOUD: درصورت دردسترس بودن، از مدل میزبانی‌شده در فضای ابری استفاده کنید؛ درغیراین‌صورت، به مدل درون‌دستگاهی برگردید.

  const model = getGenerativeModel(ai, { mode: InferenceMode.PREFER_IN_CLOUD });
  

• ONLY_IN_CLOUD: اگر مدل میزبانی‌شده در فضای ابری دردسترس است، از آن استفاده کنید؛ درغیراین‌صورت، یک استثنا ایجاد کنید.

  const model = getGenerativeModel(ai, { mode: InferenceMode.ONLY_IN_CLOUD });
  

تعیین اینکه آیا از استنتاج درون‌دستگاهی یا ابری استفاده شده است یا نه

اگر از حالت‌های استنتاج PREFER_ON_DEVICE یا PREFER_IN_CLOUD استفاده می‌کنید، شاید مفید باشد که بدانید از کدام حالت برای درخواست‌های داده‌شده استفاده شده است. این اطلاعات توسط دارایی inferenceSource هر پاسخ ارائه می‌شود (از کیت توسعه نرم‌افزار JS نسخه ۱۲.۵.۰ دردسترس است).

وقتی به این دارایی دسترسی پیدا می‌کنید، مقدار برگشتی یا ON_DEVICE یا IN_CLOUD خواهد بود.

// ...

console.log('You used: ' + result.response.inferenceSource);

console.log(result.response.text());

جایگزین کردن مدل بازگشت پیش‌فرض

مدل پیش‌فرض میزبانی‌شده در فضای ابری gemini-3.5-flash-lite (با شروع از JS SDK نسخه ۱۳.۰.۰) است.

این مدل، مدل جایگزین میزبانی‌شده در ابری است که هنگام استفاده از حالت PREFER_ON_DEVICE استفاده می‌شود. همچنین وقتی از حالت ONLY_IN_CLOUD یا حالت PREFER_IN_CLOUD استفاده می‌کنید، این مدل پیش‌فرض است.

می‌توانید از گزینه پیکربندی inCloudParams برای مشخص کردن مدل جایگزین پیش‌فرض میزبانی‌شده در ابر استفاده کنید.

const model = getGenerativeModel(ai, {
  mode: InferenceMode.INFERENCE_MODE,
  inCloudParams: {
    model: "GEMINI_MODEL_NAME"
  }
});

نام مدل‌های همه مدل‌های Gemini پشتیبانی‌شده را پیدا کنید.

از پیکربندی مدل برای کنترل پاسخ‌ها استفاده کنید

در هر درخواست به مدل، می‌توانید پیکربندی مدل را نیز ارسال کنید تا نحوه تولید پاسخ توسط مدل را کنترل کنید. مدل‌های میزبانی‌شده در فضای ابری و مدل‌های درون‌دستگاهی گزینه‌های پیکرببندی متفاوتی ارائه می‌دهند.

پیکربندی برای طول عمر نمونه حفظ می‌شود. اگر می‌خواهید از پیکربندی دیگری استفاده کنید، نمونه GenerativeModel جدیدی با آن پیکربندی ایجاد کنید.

پیکربندی مدل میزبانی‌شده در فضای ابری

از گزینه inCloudParams برای پیکربندی مدل Gemini میزبانی‌شده در فضای ابری استفاده کنید. درباره پارامترهای دردسترس بیشتر بدانید.

const model = getGenerativeModel(ai, {
  mode: InferenceMode.INFERENCE_MODE,
  inCloudParams: {
    model: "GEMINI_MODEL_NAME",
    generationConfig: {
      maxOutputTokens: 200,
      stopSequences: ["red"]
    }
  }
});

پیکربندی مدل درون‌دستگاهی

توجه داشته باشید که استنتاج بااستفاده از مدل درون‌دستگاه از Prompt API از Chrome استفاده می‌کند.

از گزینه onDeviceParams برای پیکربندی مدل درون‌دستگاهی استفاده کنید. درباره پارامترهای دردسترس بیشتر بدانید.

const model = getGenerativeModel(ai, {
  mode: InferenceMode.INFERENCE_MODE,
  onDeviceParams: {
    createOptions: {
      expectedInputs: [{ type: "text", languages: ["en"] }],
      expectedOutputs: [{ type: "text", languages: ["en"] }],
      initialPrompts: [
        { role: "system", content: [{ type: "text", value: "You are a helpful and concise assistant." }] }
      ]
    }
  }
});

درباره تجربه‌تان با Firebase AI Logic بازخورد ارائه دهید