گزینه‌های پیکربندی برای تجربیات ترکیبی در برنامه‌های وب

این صفحه گزینه‌های پیکربندی زیر را شرح می‌دهد:

• تنظیم حالت استنتاج

• مدل پشتیبان پیش‌فرض میزبانی ابری را نادیده بگیرید

• از پیکربندی مدل برای کنترل پاسخ‌ها، مانند دما، استفاده کنید

همچنین می‌توانید خروجی ساختاریافته، شامل JSON و enums، تولید کنید .

قبل از اینکه شروع کنی

مطمئن شوید که راهنمای شروع به کار برای ساخت تجربیات ترکیبی را تکمیل کرده‌اید.

تنظیم حالت استنتاج

مثال‌های موجود در راهنمای شروع به کار از حالت PREFER_ON_DEVICE استفاده می‌کنند، اما این تنها یکی از چهار حالت استنتاج موجود است.

• PREFER_ON_DEVICE : در صورت موجود بودن، از مدل روی دستگاه استفاده کنید؛ در غیر این صورت، به مدل میزبانی ابری برگردید .

  const model = getGenerativeModel(ai, { mode: InferenceMode.PREFER_ON_DEVICE });
  

• ONLY_ON_DEVICE : در صورت موجود بودن، از مدل روی دستگاه استفاده می‌کند؛ در غیر این صورت، یک استثنا ایجاد می‌کند .

  const model = getGenerativeModel(ai, { mode: InferenceMode.ONLY_ON_DEVICE });
  

• PREFER_IN_CLOUD : در صورت موجود بودن، از مدل میزبانی ابری استفاده کنید؛ در غیر این صورت، به مدل روی دستگاه برگردید .

  const model = getGenerativeModel(ai, { mode: InferenceMode.PREFER_IN_CLOUD });
  

• ONLY_IN_CLOUD : در صورت موجود بودن، از مدل میزبانی ابری استفاده کنید؛ در غیر این صورت، یک استثنا ایجاد کنید .

  const model = getGenerativeModel(ai, { mode: InferenceMode.ONLY_IN_CLOUD });
  

تعیین اینکه آیا از استنتاج درون دستگاهی یا درون ابری استفاده شده است

اگر از حالت‌های استنتاج PREFER_ON_DEVICE یا PREFER_IN_CLOUD استفاده می‌کنید، دانستن اینکه کدام حالت برای درخواست‌های داده شده استفاده شده است، می‌تواند مفید باشد. این اطلاعات توسط ویژگی inferenceSource هر پاسخ ارائه می‌شود (از JS SDK v12.5.0 به بعد در دسترس است).

وقتی به این ویژگی دسترسی پیدا می‌کنید، مقدار برگشتی یا ON_DEVICE یا IN_CLOUD خواهد بود.

// ...

console.log('You used: ' + result.response.inferenceSource);

console.log(result.response.text());

مدل پیش‌فرض میزبانی ابری به صورت زیر است: gemini-2.5-flash-lite (با شروع از JS SDK نسخه ۱۲.۸.۰).

این مدل، مدل پشتیبانِ مبتنی بر ابر است وقتی که از حالت PREFER_ON_DEVICE استفاده می‌کنید. همچنین مدل پیش‌فرض است وقتی که از حالت ONLY_IN_CLOUD یا حالت PREFER_IN_CLOUD استفاده می‌کنید.

شما می‌توانید از گزینه پیکربندی inCloudParams برای تعیین یک مدل جایگزین پیش‌فرض میزبانی ابری استفاده کنید.

const model = getGenerativeModel(ai, {
  mode: InferenceMode.INFERENCE_MODE,
  inCloudParams: {
    model: "GEMINI_MODEL_NAME"
  }
});

const model = getGenerativeModel(ai, {
  mode: InferenceMode.INFERENCE_MODE,
  inCloudParams: {
    model: "GEMINI_MODEL_NAME"
    temperature: 0.8,
    topK: 10
  }
});

const model = getGenerativeModel(ai, {
  mode: InferenceMode.INFERENCE_MODE,
  onDeviceParams: {
    createOptions: {
      temperature: 0.8,
      topK: 8
    }
  }
});