ওয়েব অ্যাপে হাইব্রিড অভিজ্ঞতার জন্য কনফিগারেশন বিকল্পগুলি

এই পৃষ্ঠাটি নিম্নলিখিত কনফিগারেশন বিকল্পগুলি বর্ণনা করে:

• একটি অনুমান মোড সেট করুন

• ডিফল্ট ক্লাউড-হোস্টেড ফলব্যাক মডেলটি ওভাররাইড করুন

• তাপমাত্রার মতো প্রতিক্রিয়া নিয়ন্ত্রণ করতে মডেল কনফিগারেশন ব্যবহার করুন

আপনি JSON এবং enums সহ স্ট্রাকচার্ড আউটপুটও তৈরি করতে পারেন।

শুরু করার আগে

হাইব্রিড অভিজ্ঞতা তৈরির জন্য শুরু করার নির্দেশিকাটি আপনি সম্পূর্ণ করেছেন কিনা তা নিশ্চিত করুন।

একটি অনুমান মোড সেট করুন

শুরু করার নির্দেশিকার উদাহরণগুলিতে PREFER_ON_DEVICE মোড ব্যবহার করা হয়েছে, কিন্তু এটি চারটি উপলব্ধ অনুমান মোডের মধ্যে একটি মাত্র।

• PREFER_ON_DEVICE : যদি অন-ডিভাইস মডেলটি উপলব্ধ থাকে তবে তা ব্যবহার করুন; অন্যথায়, ক্লাউড-হোস্টেড মডেলে ফিরে যান ।

  const model = getGenerativeModel(ai, { mode: InferenceMode.PREFER_ON_DEVICE });
  

• ONLY_ON_DEVICE : যদি অন-ডিভাইস মডেলটি উপলব্ধ থাকে তবে তা ব্যবহার করুন; অন্যথায়, একটি ব্যতিক্রম দিন ।

  const model = getGenerativeModel(ai, { mode: InferenceMode.ONLY_ON_DEVICE });
  

• PREFER_IN_CLOUD : ক্লাউড-হোস্টেড মডেলটি উপলব্ধ থাকলে ব্যবহার করুন; অন্যথায়, অন-ডিভাইস মডেলে ফিরে যান ।

  const model = getGenerativeModel(ai, { mode: InferenceMode.PREFER_IN_CLOUD });
  

• ONLY_IN_CLOUD : ক্লাউড-হোস্টেড মডেলটি উপলব্ধ থাকলে ব্যবহার করুন; অন্যথায়, একটি ব্যতিক্রম দিন ।

  const model = getGenerativeModel(ai, { mode: InferenceMode.ONLY_IN_CLOUD });
  

অন-ডিভাইস নাকি ইন-ক্লাউড ইনফারেন্স ব্যবহার করা হয়েছে তা নির্ধারণ করুন

যদি আপনি PREFER_ON_DEVICE অথবা PREFER_IN_CLOUD ইনফারেন্স মোড ব্যবহার করেন, তাহলে প্রদত্ত অনুরোধের জন্য কোন মোড ব্যবহার করা হয়েছে তা জানা সহায়ক হতে পারে। এই তথ্য প্রতিটি প্রতিক্রিয়ার inferenceSource সম্পত্তি দ্বারা সরবরাহ করা হয় (JS SDK v12.5.0 দিয়ে শুরু করে উপলব্ধ)।

যখন আপনি এই বৈশিষ্ট্যটি অ্যাক্সেস করবেন, তখন ফেরত আসা মানটি হয় ON_DEVICE অথবা IN_CLOUD ।

// ...

console.log('You used: ' + result.response.inferenceSource);

console.log(result.response.text());

ডিফল্ট ক্লাউড-হোস্টেড মডেল হল gemini-2.5-flash-lite (জেএস এসডিকে ভার্সন ১২.৮.০ দিয়ে শুরু)।

PREFER_ON_DEVICE মোড ব্যবহার করার সময় এই মডেলটি ফলব্যাক ক্লাউড-হোস্টেড মডেল। ONLY_IN_CLOUD মোড বা PREFER_IN_CLOUD মোড ব্যবহার করার সময় এটি ডিফল্ট মডেল।

আপনি একটি বিকল্প ডিফল্ট ক্লাউড-হোস্টেড মডেল নির্দিষ্ট করতে inCloudParams কনফিগারেশন বিকল্পটি ব্যবহার করতে পারেন।

const model = getGenerativeModel(ai, {
  mode: InferenceMode.INFERENCE_MODE,
  inCloudParams: {
    model: "GEMINI_MODEL_NAME"
  }
});

const model = getGenerativeModel(ai, {
  mode: InferenceMode.INFERENCE_MODE,
  inCloudParams: {
    model: "GEMINI_MODEL_NAME"
    temperature: 0.8,
    topK: 10
  }
});

const model = getGenerativeModel(ai, {
  mode: InferenceMode.INFERENCE_MODE,
  onDeviceParams: {
    createOptions: {
      temperature: 0.8,
      topK: 8
    }
  }
});