ওয়েব অ্যাপে হাইব্রিড অভিজ্ঞতার জন্য কনফিগারেশন বিকল্প

এই পৃষ্ঠায় নিম্নলিখিত কনফিগারেশন বিকল্পগুলি বর্ণনা করা হয়েছে:

• ইনফারেন্স মোড সেট করা

• ডিফল্ট ক্লাউড-হোস্টেড ফলব্যাক মডেল ওভাররাইড করুন

• উত্তর কন্ট্রোল করতে মডেল কনফিগারেশন ব্যবহার করা

এছাড়াও, আপনি JSON ও এনাম সহ স্ট্রাকচার্ড আউটপুট জেনারেট করতে পারবেন।

শুরু করার আগে

আপনি হাইব্রিড অভিজ্ঞতা তৈরি করার জন্য শুরু করার নির্দেশিকা সম্পূর্ণ করেছেন কিনা তা নিশ্চিত করুন।

ইনফারেন্স মোড সেট করা

শুরু করার নির্দেশিকায় দেওয়া উদাহরণে PREFER_ON_DEVICE মোড ব্যবহার করা হয়, তবে এটি উপলভ্য চারটি ইনফারেন্স মোডের মধ্যে একটি মাত্র।

• PREFER_ON_DEVICE: অন-ডিভাইস মডেল উপলভ্য থাকলে সেটি ব্যবহার করুন; অন্যথায়, ক্লাউড-হোস্টেড মডেলে ফিরে যান।

  const model = getGenerativeModel(ai, { mode: InferenceMode.PREFER_ON_DEVICE });
  

• ONLY_ON_DEVICE: অন-ডিভাইস মডেল উপলভ্য থাকলে সেটি ব্যবহার করুন; অন্যথায়, এক্সেপশন থ্রো করুন।

  const model = getGenerativeModel(ai, { mode: InferenceMode.ONLY_ON_DEVICE });
  

• PREFER_IN_CLOUD: ক্লাউড-হোস্টেড মডেল উপলভ্য থাকলে সেটি ব্যবহার করুন; অন্যথায়, অন-ডিভাইস মডেলে ফিরে যান।

  const model = getGenerativeModel(ai, { mode: InferenceMode.PREFER_IN_CLOUD });
  

• ONLY_IN_CLOUD: ক্লাউড-হোস্টেড মডেল উপলভ্য থাকলে সেটি ব্যবহার করুন; অন্যথায়, এক্সেপশন থ্রো করুন।

  const model = getGenerativeModel(ai, { mode: InferenceMode.ONLY_IN_CLOUD });
  

অন-ডিভাইস নাকি ইন-ক্লাউড ইনফারেন্স ব্যবহার করা হয়েছে তা নির্ধারণ করুন

আপনি PREFER_ON_DEVICE বা PREFER_IN_CLOUD ইনফারেন্স মোড ব্যবহার করলে, প্রদত্ত অনুরোধের জন্য কোন মোড ব্যবহার করা হয়েছে তা জানা সহায়ক হতে পারে। এই তথ্য প্রতিটি উত্তরের inferenceSource প্রপার্টি দ্বারা প্রদান করা হয় (JS SDK v12.5.0 থেকে শুরু করে উপলভ্য)।

আপনি এই প্রপার্টি অ্যাক্সেস করলে, রিটার্ন করা ভ্যালু হয় ON_DEVICE অথবা IN_CLOUD হবে।

// ...

console.log('You used: ' + result.response.inferenceSource);

console.log(result.response.text());

ডিফল্ট ফলব্যাক মডেল ওভাররাইড করা

ডিফল্ট ক্লাউড-হোস্টেড মডেল হল gemini-3.5-flash-lite (JS SDK v13.0.0 থেকে শুরু)।

আপনি PREFER_ON_DEVICE মোড ব্যবহার করার সময় এই মডেলটি ক্লাউড-হোস্টেড মডেল হিসেবে কাজ করে। এছাড়াও, আপনি ONLY_IN_CLOUD মোড বা PREFER_IN_CLOUD মোড ব্যবহার করলে এটি ডিফল্ট মডেল হিসেবে কাজ করে।

আপনি inCloudParams কনফিগারেশন বিকল্প ব্যবহার করে বিকল্প ডিফল্ট ক্লাউড-হোস্টেড মডেল নির্দিষ্ট করতে পারেন।

const model = getGenerativeModel(ai, {
  mode: InferenceMode.INFERENCE_MODE,
  inCloudParams: {
    model: "GEMINI_MODEL_NAME"
  }
});

কাজ করে এমন সব Gemini মডেলের নাম খুঁজুন।

উত্তর নিয়ন্ত্রণ করতে মডেল কনফিগারেশন ব্যবহার করা

মডেলের কাছে করা প্রতিটি অনুরোধে, মডেল কীভাবে উত্তর জেনারেট করবে তা নিয়ন্ত্রণ করতে আপনি মডেল কনফিগারেশন পাঠাতে পারেন। ক্লাউড-হোস্টেড মডেল ও অন-ডিভাইস মডেল বিভিন্ন কনফিগারেশন বিকল্প অফার করে।

ইনস্ট্যান্সের লাইফটাইমের জন্য কনফিগারেশন বজায় রাখা হয়। আপনি অন্য কোনও কনফিগারেশন ব্যবহার করতে চাইলে, সেই কনফিগারেশন দিয়ে নতুন GenerativeModel ইনস্ট্যান্স তৈরি করুন।

ক্লাউড-হোস্টেড মডেল কনফিগার করুন

ক্লাউড-হোস্টেড Gemini মডেল কনফিগার করতে inCloudParams বিকল্প ব্যবহার করুন। উপলভ্য প্যারামিটার সম্পর্কে জানুন।

const model = getGenerativeModel(ai, {
  mode: InferenceMode.INFERENCE_MODE,
  inCloudParams: {
    model: "GEMINI_MODEL_NAME",
    generationConfig: {
      maxOutputTokens: 200,
      stopSequences: ["red"]
    }
  }
});

অন-ডিভাইস মডেল কনফিগার করা

মনে রাখবেন, অন-ডিভাইস মডেল ব্যবহার করে ইনফারেন্স Chrome থেকে Prompt API ব্যবহার করে।

অন-ডিভাইস মডেল কনফিগার করতে onDeviceParams বিকল্প ব্যবহার করুন। উপলভ্য প্যারামিটার সম্পর্কে জানুন।

const model = getGenerativeModel(ai, {
  mode: InferenceMode.INFERENCE_MODE,
  onDeviceParams: {
    createOptions: {
      expectedInputs: [{ type: "text", languages: ["en"] }],
      expectedOutputs: [{ type: "text", languages: ["en"] }],
      initialPrompts: [
        { role: "system", content: [{ type: "text", value: "You are a helpful and concise assistant." }] }
      ]
    }
  }
});

Firebase AI Logic-এর সাথে আপনার অভিজ্ঞতা সম্পর্কে মতামত দিন