ওয়েব অ্যাপে হাইব্রিড অভিজ্ঞতার জন্য কনফিগারেশন বিকল্প

এই পৃষ্ঠায় নিম্নলিখিত কনফিগারেশন বিকল্প বর্ণনা করা হয়েছে:

• ইনফারেন্স মোড সেট করা

• ক্লাউড-হোস্ট করা ডিফল্ট ফলব্যাক মডেল ওভাররাইড করা

• উত্তর কন্ট্রোল করতে মডেল কনফিগারেশন ব্যবহার করুন, যেমন টেম্পারেচার

এছাড়াও, আপনি JSON ও enum সহ স্ট্রাকচার্ড আউটপুট জেনারেট করতে পারেন।

শুরু করার আগে

আপনি হাইব্রিড অভিজ্ঞতা তৈরি করার জন্য শুরু করার গাইড সম্পূর্ণ করেছেন কিনা তা নিশ্চিত করুন।

ইনফারেন্স মোড সেট করা

শুরু করার নির্দেশিকায় দেওয়া উদাহরণে PREFER_ON_DEVICE মোড ব্যবহার করা হয়েছে, কিন্তু এটি উপলভ্য চারটি ইনফারেন্স মোডের মধ্যে একটি।

• PREFER_ON_DEVICE: উপলভ্য থাকলে, অন-ডিভাইস মডেল ব্যবহার করুন; অন্যথায়, ক্লাউড-হোস্টেড মডেলে ফিরে যান।

  const model = getGenerativeModel(ai, { mode: InferenceMode.PREFER_ON_DEVICE });
  

• ONLY_ON_DEVICE: ডিভাইসে উপলভ্য থাকলে, ডিভাইসে থাকা মডেল ব্যবহার করুন; অন্যথায়, ব্যতিক্রম দেখান।

  const model = getGenerativeModel(ai, { mode: InferenceMode.ONLY_ON_DEVICE });
  

• PREFER_IN_CLOUD: ক্লাউড-হোস্ট করা মডেল উপলভ্য থাকলে সেটি ব্যবহার করুন; অন্যথায়, ডিভাইসে সেভ করা মডেল ব্যবহার করুন।

  const model = getGenerativeModel(ai, { mode: InferenceMode.PREFER_IN_CLOUD });
  

• ONLY_IN_CLOUD: ক্লাউড-হোস্ট করা মডেল উপলভ্য থাকলে সেটি ব্যবহার করুন; অন্যথায়, ব্যতিক্রম দেখান।

  const model = getGenerativeModel(ai, { mode: InferenceMode.ONLY_IN_CLOUD });
  

ডিভাইসে বা ক্লাউডে ইনফারেন্স ব্যবহার করা হয়েছে কিনা তা নির্ধারণ করা

আপনি PREFER_ON_DEVICE বা PREFER_IN_CLOUD ইনফারেন্স মোড ব্যবহার করলে, প্রদত্ত অনুরোধের জন্য কোন মোড ব্যবহার করা হয়েছে তা জানলে সহায়ক হতে পারে। এই তথ্য প্রতিটি উত্তরের inferenceSource প্রপার্টি থেকে পাওয়া যায় (JS SDK v12.5.0 থেকে উপলভ্য)।

আপনি এই প্রপার্টি অ্যাক্সেস করলে, রিটার্ন করা ভ্যালু হয় ON_DEVICE অথবা IN_CLOUD হবে।

// ...

console.log('You used: ' + result.response.inferenceSource);

console.log(result.response.text());

ডিফল্ট ফলব্যাক মডেল ওভাররাইড করা

ডিফল্ট ক্লাউড-হোস্টেড মডেল হল gemini-2.5-flash-lite (JS SDK v12.8.0 থেকে শুরু)।

আপনি PREFER_ON_DEVICE মোড ব্যবহার করলে, এই মডেলটি হল ফলব্যাক ক্লাউড-হোস্টেড মডেল। এছাড়াও, আপনি ONLY_IN_CLOUD মোড বা PREFER_IN_CLOUD মোড ব্যবহার করলে এটি ডিফল্ট মডেল হিসেবে কাজ করে।

ক্লাউড-হোস্ট করা বিকল্প ডিফল্ট মডেল নির্দিষ্ট করতে, আপনি inCloudParams কনফিগারেশন বিকল্প ব্যবহার করতে পারেন।

const model = getGenerativeModel(ai, {
  mode: InferenceMode.INFERENCE_MODE,
  inCloudParams: {
    model: "GEMINI_MODEL_NAME"
  }
});

সব কাজ করে এমন Gemini মডেলের নাম দেখুন।

উত্তর নিয়ন্ত্রণ করতে মডেল কনফিগারেশন ব্যবহার করা

মডেলের কাছে করা প্রতিটি অনুরোধে, মডেল কীভাবে উত্তর জেনারেট করবে তা নিয়ন্ত্রণ করতে আপনি মডেল কনফিগারেশন পাঠাতে পারেন। ক্লাউড-হোস্ট করা মডেল ও ডিভাইসে থাকা মডেল বিভিন্ন কনফিগারেশন বিকল্প অফার করে।

ইনস্ট্যান্সের লাইফটাইম ধরে কনফিগারেশন বজায় রাখা হয়। আপনি অন্য কোনও কনফিগারেশন ব্যবহার করতে চাইলে, সেই কনফিগারেশন দিয়ে নতুন GenerativeModel ইনস্ট্যান্স তৈরি করুন।

ক্লাউড-হোস্ট করা মডেল কনফিগার করা

ক্লাউড-হোস্ট করা Gemini মডেল কনফিগার করতে inCloudParams বিকল্প ব্যবহার করুন। উপলভ্য প্যারামিটার সম্পর্কে জানুন।

const model = getGenerativeModel(ai, {
  mode: InferenceMode.INFERENCE_MODE,
  inCloudParams: {
    model: "GEMINI_MODEL_NAME"
    temperature: 0.8,
    topK: 10
  }
});

অন-ডিভাইস মডেল কনফিগার করা

মনে রাখবেন, অন-ডিভাইস মডেল ব্যবহার করে ইনফারেন্স করার জন্য Chrome থেকে Prompt API ব্যবহার করা হয়।

ডিভাইসে থাকা মডেল কনফিগার করতে onDeviceParams বিকল্প ব্যবহার করুন। উপলভ্য প্যারামিটার সম্পর্কে জানুন।

const model = getGenerativeModel(ai, {
  mode: InferenceMode.INFERENCE_MODE,
  onDeviceParams: {
    createOptions: {
      temperature: 0.8,
      topK: 8
    }
  }
});

Firebase AI Logic-এর সাথে আপনার অভিজ্ঞতা সম্পর্কে মতামত জানান