অন-ডিভাইস ও ক্লাউড-হোস্টেড মডেলের সাহায্যে ওয়েব অ্যাপে হাইব্রিড অভিজ্ঞতা তৈরি করা

Firebase AI Logic ব্যবহার করে হাইব্রিড ইনফারেন্সের মাধ্যমে আপনি AI-পরিচালিত ওয়েব অ্যাপ ও ফিচার তৈরি করতে পারবেন। হাইব্রিড ইনফারেন্স, অন-ডিভাইস মডেল উপলভ্য থাকলে তা ব্যবহার করে ইনফারেন্স রান করতে দেয় এবং অন্যথায় নির্বিঘ্নে ক্লাউড-হোস্টেড মডেলে ফিরে যায় (এবং এর উল্টোটাও হয়)।

এই পৃষ্ঠায় বর্ণনা করা হয়েছে যে কীভাবে ক্লায়েন্ট SDK ব্যবহার করা শুরু করবেন। এই স্ট্যান্ডার্ড সেট-আপ সম্পূর্ণ করার পরে, অতিরিক্ত কনফিগারেশন বিকল্প ও ক্ষমতা চেক করে দেখুন।

মনে রাখবেন যে Firebase AI Logic-এর মাধ্যমে অন-ডিভাইস ইনফারেন্স Firebase AI Logic SDK v12.5.0+ ব্যবহার করা এবং ডেস্কটপে Chrome-এ (ভার্সন 139 বা তার পরবর্তী) চলা ওয়েব অ্যাপের জন্য কাজ করে।

arrow_downward কোডের উদাহরণ দেখতে সরাসরি যান

ব্যবহারের ক্ষেত্র ও সমর্থিত ক্ষমতা

আপনার অ্যাপের ব্যবহারের উপর নির্ভর করে, আপনি অন-ডিভাইস বা হাইব্রিড অভিজ্ঞতার বিভিন্ন সুবিধা নিতে পারেন:

• অনুমানের জন্য অন-ডিভাইস মডেল ব্যবহার করার সুবিধা:

  • উন্নত গোপনীয়তা
  • স্থানীয় প্রসঙ্গ
  • কোনও খরচ ছাড়াই ইনফারেন্স
  • অফলাইন কার্যকারিতা

• হাইব্রিড পদ্ধতি ব্যবহার করার সুবিধা:

  • ব্যবহারকারীর ডিভাইস যাই হোক না কেন, একই ধরনের অ্যাপ অভিজ্ঞতা প্রদান করা
  • ইন্টারনেট কানেক্টিভিটি, কোটার সীমাবদ্ধতা বা ডিভাইসের ক্ষমতা যাই হোক না কেন, জেনারেটিভ AI ফিচারের উপলভ্যতা উন্নত করুন

অন-ডিভাইস ইনফারেন্সের যেসব ক্ষমতা কাজ করে

অন-ডিভাইস ইনফারেন্স শুধুমাত্র সিঙ্গেল-টার্ন টেক্সট জেনারেশন (চ্যাট নয়) (স্ট্রিমিং বা নন-স্ট্রিমিং আউটপুট সহ) সাপোর্ট করে, বিশেষ করে নিম্নলিখিত ক্ষমতা:

• শুধু টেক্সট ইনপুট থেকে টেক্সট জেনারেট করা।

• বিশেষ করে JPEG ও PNG ধরনের ইনপুট ছবির ক্ষেত্রে টেক্সট-ও-ছবি ইনপুট থেকে টেক্সট জেনারেট করা।

• JSON ও enum সহ স্ট্রাকচার্ড আউটপুট জেনারেট করা।

এই পৃষ্ঠার নিচে হাইব্রিড বা অন-ডিভাইস ইনফারেন্সের জন্য এখনও কাজ করে না এমন ফিচারের তালিকা পর্যালোচনা করতে ভুলবেন না।

কাজ করে এমন API ও প্ল্যাটফর্ম

নিম্নলিখিত বিভাগে কাজ করে এমন API, প্ল্যাটফর্ম ও ব্রাউজার সম্পর্কে বর্ণনা করা হয়েছে।

ইন-ক্লাউড বনাম অন-ডিভাইস ইনফারেন্সের জন্য কাজ করে এমন API

• ইন-ক্লাউড ইনফারেন্স আপনার বেছে নেওয়া Gemini API প্রোভাইডার (হয় Gemini Developer API অথবা Agent Platform Gemini API (formerly Vertex AI)) ব্যবহার করে।

• অন-ডিভাইস ইনফারেন্স Chrome থেকে Prompt API ব্যবহার করে।

যেসব প্ল্যাটফর্ম ও ব্রাউজারে কাজ করে

অন-ডিভাইস ইনফারেন্সের (যা Chrome থেকে Prompt API ব্যবহার করে) জন্য, আপনার অ্যাপের ব্যবহারকারীকে অবশ্যই ডেস্কটপে Chrome (ভার্সন ১৩৯ বা তার পরবর্তী) চালাতে হবে। Chrome ডকুমেন্টেশন থেকে আরও জানুন।

লোকালহোস্টে শুরু করুন

এই শুরু করার ধাপগুলি আপনি পাঠাতে চান এমন যেকোনও কাজ করে এমন প্রম্পট অনুরোধের জন্য প্রয়োজনীয় সাধারণ সেট-আপ বর্ণনা করে।

আপনি Chrome ডকুমেন্টেশন থেকে লোকালহোস্টে API ব্যবহার করা সম্পর্কে আরও জানতে পারবেন।

ধাপ ১: অন-ডিভাইস ইনফারেন্সের জন্য Chrome ও Prompt API সেট-আপ করা

1. আপনি Chrome-এর লেটেস্ট ভার্সন ব্যবহার করছেন কিনা তা নিশ্চিত করুন। chrome://settings/help-এ গিয়ে আপডেট করুন।
   Chrome v139 এবং তার পরবর্তী ভার্সনে অন-ডিভাইস ইনফারেন্স উপলভ্য।

2. নিম্নলিখিত ফ্ল্যাগ চালু আছে হিসেবে সেট করে অন-ডিভাইস মাল্টিমোডাল মডেল চালু করুন:

   • chrome://flags/#prompt-api-for-gemini-nano-multimodal-input

3. Chrome রিস্টার্ট করুন।

4. (ঐচ্ছিক) প্রথম অনুরোধের আগে অন-ডিভাইস মডেল ডাউনলোড করুন।

   Prompt API, Chrome-এ বিল্ট-ইন থাকে; তবে, অন-ডিভাইস মডেল ডিফল্ট হিসেবে উপলভ্য থাকে না। অন-ডিভাইস ইনফারেন্সের জন্য আপনার প্রথম অনুরোধের আগে আপনি যদি এখনও মডেলটি ডাউনলোড না করে থাকেন, তাহলে অনুরোধটি ব্যাকগ্রাউন্ডে অটোমেটিক মডেল ডাউনলোড শুরু করবে।

   অন-ডিভাইস মডেল ডাউনলোড করার নির্দেশাবলী দেখুন

   1. ডেভেলপার টুল > কনসোল খুলুন।

   2. নিম্নলিখিত কমান্ড রান করুন:

      await LanguageModel.availability();
      

   3. আউটপুট যেন available, downloading, অথবা downloadable হয় তা নিশ্চিত করুন।

   4. আউটপুট downloadable হলে, এটি চালিয়ে মডেল ডাউনলোড করা শুরু করুন:

      await LanguageModel.create();
      

   5. ডাউনলোডের প্রগ্রেস সম্পর্কে জানতে আপনি নিম্নলিখিত monitor কলব্যাক ব্যবহার করতে পারেন এবং অনুরোধ করার আগে মডেলটি available কিনা তা নিশ্চিত করতে পারেন:

      const session = await LanguageModel.create({
        monitor(m) {
          m.addEventListener("downloadprogress", (e) => {
            console.log(`Downloaded ${e.loaded * 100}%`);
          });
        },
      });
      

ধাপ ২: Firebase প্রোজেক্ট সেট-আপ করুন এবং Firebase-এর সাথে আপনার অ্যাপ কানেক্ট করুন

1. Firebase কনসোলে সাইন-ইন করুন, এবং তারপর আপনার Firebase প্রোজেক্ট বেছে নিন।

   আপনার কি আগে থেকে কোনও Firebase প্রোজেক্ট নেই?

   আপনার আগে থেকে কোনও Firebase প্রোজেক্ট না থাকলে, নতুন Firebase প্রোজেক্ট তৈরি করতে বোতামে ক্লিক করুন এবং তারপরে নিম্নলিখিত বিকল্পগুলির মধ্যে যেকোনও একটি ব্যবহার করুন:

   • বিকল্প ১: ওয়ার্কফ্লোর প্রথম ধাপে নতুন প্রোজেক্টের নাম লিখে সম্পূর্ণ নতুন Firebase প্রোজেক্ট (এবং এর সাথে সম্পর্কিত Google Cloud প্রোজেক্ট অটোমেটিক) তৈরি করুন।

   • বিকল্প ২: Google Cloud প্রোজেক্টে Firebase যোগ করুন (পৃষ্ঠার নিচে) বিকল্পে ক্লিক করে আগে থেকে থাকা Google Cloud প্রোজেক্টে "Firebase যোগ করুন"। ওয়ার্কফ্লোয়ের প্রথম ধাপে, আগে থেকে থাকা প্রোজেক্টের প্রোজেক্টের নাম লেখা শুরু করুন এবং তারপরে দেখানো তালিকা থেকে প্রোজেক্ট বেছে নিন।

   Firebase প্রোজেক্ট তৈরি করতে স্ক্রিনে দেখানো ওয়ার্কফ্লোর বাকি ধাপগুলি সম্পূর্ণ করুন। মনে রাখবেন, প্রম্পট করা হলে, Firebase AI Logic SDK ব্যবহার করার জন্য আপনাকে Google Analytics সেট-আপ করতে হবে না।

2. Firebase কনসোলে, AI পরিষেবা > AI লজিক বিকল্পে যান।

3. আপনার প্রোজেক্টের জন্য প্রয়োজনীয় API ও রিসোর্স সেট-আপ করতে সাহায্য করে এমন একটি গাইডেড ওয়ার্কফ্লো চালু করতে, শুরু করুন বিকল্পে ক্লিক করুন।

4. প্রম্পট করা হলে, আপনার অ্যাপ রেজিস্টার করতে এবং আপনার অ্যাপে Firebase কনফিগারেশন যোগ করতে অন-স্ক্রিন নির্দেশাবলী অনুসরণ করুন।

5. "Gemini API প্রোভাইডার" বেছে নিতে বলা হলে, আমরা আপনাকে Gemini Developer API বেছে নেওয়ার সাজেশন দিই, যা আপনাকে কোনও খরচ ছাড়াই দ্রুত শুরু করতে দেয়।

   পরে যেকোনও সময়, আপনি সবসময় Agent Platform Gemini API (formerly Vertex AI) সেট-আপ করতে পারবেন (এবং বিলিংয়ের জন্য এর প্রয়োজনীয়তা)।

6. Firebase AI Logic-এর জন্য প্রয়োজনীয় API ও সংশ্লিষ্ট পরিষেবা সেট-আপ করতে ওয়ার্কফ্লোতে চালিয়ে যান।

   ওয়ার্কফ্লোর এই ধাপ অটোমেটিক AI Logic-এর জন্য Firebase App Check এনফোর্স করে, যা আপনার অ্যাপ থেকে সরাসরি অ্যাক্সেস করার সময় Gemini API-কে সুরক্ষিত রাখতে সাহায্য করার জন্য একটি গুরুত্বপূর্ণ পরিষেবা। শুরু করার অংশ হিসেবে (এই গাইডের পরবর্তী ধাপগুলি দেখুন), App Check এনফোর্স করা হলে, লোকাল ডেভেলপমেন্টের জন্য আপনাকে App Check ডিবাগ প্রোভাইডার কনফিগার করতে হবে।

7. আপনার অ্যাপে প্রয়োজনীয় SDK যোগ করতে এই গাইডের পরবর্তী ধাপে যান।

ধাপ ৩: SDK যোগ করা

Firebase লাইব্রেরি, জেনারেটিভ মডেলের সাথে ইন্টার‍্যাক্ট করার জন্য API-তে অ্যাক্সেস প্রদান করে। ওয়েবের জন্য Firebase JavaScript SDK-এর অংশ হিসেবে লাইব্রেরি অন্তর্ভুক্ত করা হয়েছে।

1. npm ব্যবহার করে ওয়েবের জন্য Firebase JS SDK ইনস্টল করুন:

   npm install firebase
   

2. আপনার অ্যাপে Firebase ইনিশিয়ালাইজ করুন:

   import { initializeApp } from "firebase/app";
   import { initializeAppCheck } from "firebase/app-check";
   
   // TODO(developer) Replace the following with your app's Firebase configuration
   // See: https://firebase.google.com/docs/web/learn-more#config-object
   const firebaseConfig = {
     // ...
   };
   
   // Initialize FirebaseApp
   const firebaseApp = initializeApp(firebaseConfig);
   

ধাপ ৪: লোকাল ডেভেলপমেন্টের জন্য App Check ডিবাগ প্রোভাইডার কনফিগার করুন

কনসোলে AI Logic-এর জন্য গাইডেড সেট-আপ ওয়ার্কফ্লোর অংশ হিসেবে, Gemini API সুরক্ষিত করতে Firebase App Check অটোমেটিক এনফোর্স করা হয়। লোকাল ডেভেলপমেন্টের জন্য, আপনাকে App Check ডিবাগ প্রোভাইডার কনফিগার করতে হবে যাতে অ্যাটেস্টেশন বাইপাস করা যায় এবং একই সাথে App Check-এর এনফোর্সমেন্ট বজায় রাখা যায়।

localhost থেকে ইন্টার‍্যাক্টিভভাবে (যেমন, লোকাল ডেভেলপমেন্টের সময়) আপনার অ্যাপ চালানোর সময় কীভাবে ডিবাগ প্রোভাইডার ব্যবহার করবেন তা এখানে দেওয়া হল:

1. আপনার ডিবাগ বিল্ডে, App Check শুরু করার আগে self.FIREBASE_APPCHECK_DEBUG_TOKEN-কে true-এ সেট করে ডিবাগ মোড চালু করুন। যেমন:

   self.FIREBASE_APPCHECK_DEBUG_TOKEN = true;
   initializeAppCheck(firebaseApp, { /* App Check options */ });
   

2. আপনার ওয়েব অ্যাপ লোকালি ভিজিট করুন এবং ব্রাউজারের ডেভেলপার টুল খুলুন। ডিবাগ কনসোলে, আপনি একটি ডিবাগ টোকেন দেখতে পাবেন:

   AppCheck debug token: "123a4567-b89c-12d3-e456-789012345678".
   You will need to safelist it in the Firebase console for it to work.
   

3. App Check-এর মাধ্যমে আপনার ডিবাগ টোকেন রেজিস্টার করুন:

   1. Firebase কনসোলে, নিরাপত্তা > App Check > অ্যাপ ট্যাব বিকল্পে যান।

   2. আপনার অ্যাপ খুঁজে, ওভারফ্লো মেনুতে (more_vert) ক্লিক করুন এবং তারপর ডিবাগ টোকেন ম্যানেজ করুন বিকল্প বেছে নিন।

   3. আপনার ডিবাগ টোকেন রেজিস্টার করতে অন-স্ক্রিন নির্দেশাবলী অনুসরণ করুন।

ডিবাগ প্রোভাইডার সম্পর্কে বিস্তারিত জানতে (নতুন ডিবাগ টোকেন কীভাবে পাবেন তা সহ), অফিসিয়াল App Check ডকুমেন্ট চেক করুন।

ধাপ ৫: পরিষেবা শুরু করুন এবং একটি মডেল ইনস্ট্যান্স তৈরি করুন

মডেলকে প্রম্পট অনুরোধ পাঠানোর আগে নিম্নলিখিতগুলি সেট-আপ করুন:

1. আপনার বেছে নেওয়া API প্রদানকারীর জন্য পরিষেবা শুরু করুন।

2. একটি GenerativeModel ইনস্ট্যান্স তৈরি করুন। mode-এর জন্য এগুলির মধ্যে কোনও একটি বেছে নিতে ভুলবেন না:

   • PREFER_ON_DEVICE: অন-ডিভাইস মডেল উপলভ্য থাকলে সেটি ব্যবহার করুন; অন্যথায়, ক্লাউড-হোস্টেড মডেলে ফিরে যান।

   • ONLY_ON_DEVICE: অন-ডিভাইস মডেল উপলভ্য থাকলে সেটি ব্যবহার করুন; অন্যথায়, এক্সেপশন থ্রো করুন।

   • PREFER_IN_CLOUD: ক্লাউড-হোস্টেড মডেল উপলভ্য থাকলে সেটি ব্যবহার করুন; অন্যথায়, অন-ডিভাইস মডেলে ফিরে যান।

   • ONLY_IN_CLOUD: ক্লাউড-হোস্টেড মডেল উপলভ্য থাকলে সেটি ব্যবহার করুন; অন্যথায়, এক্সেপশন থ্রো করুন।

import { initializeApp } from "firebase/app";
import { getAI, getGenerativeModel, GoogleAIBackend, InferenceMode } from "firebase/ai";

// TODO(developer) Replace the following with your app's Firebase configuration
// See: https://firebase.google.com/docs/web/learn-more#config-object
const firebaseConfig = {
  // ...
};

// Initialize FirebaseApp
const firebaseApp = initializeApp(firebaseConfig);

// Initialize the Gemini Developer API backend service
const ai = getAI(firebaseApp, { backend: new GoogleAIBackend() });

// Create a `GenerativeModel` instance
// Set the mode (for example, use the on-device model if it's available)
const model = getGenerativeModel(ai, { mode: InferenceMode.PREFER_ON_DEVICE });

ধাপ ৬: অন-ডিভাইস মডেল শুরু করা

আপনাকে অবশ্যই initializeDeviceModel() কল করতে হবে পরে বা এন্ড-ইউজার পৃষ্ঠা ইন্টারঅ্যাকশন (যেমন বোতাম ক্লিক) এবং আগে আপনি একটি প্রম্পট অনুরোধ পাঠান মডেল। Chrome ডকুমেন্টেশন থেকে ব্যবহারকারী অ্যাক্টিভেশন সংক্রান্ত প্রয়োজনীয়তা সম্পর্কে আরও জানুন।

import { initializeApp } from "firebase/app";
import { getAI, getGenerativeModel, GoogleAIBackend, InferenceMode } from "firebase/ai";

// TODO(developer) Replace the following with your app's Firebase configuration
// See: https://firebase.google.com/docs/web/learn-more#config-object
const firebaseConfig = {
  // ...
};

// Initialize FirebaseApp
const firebaseApp = initializeApp(firebaseConfig);

// Initialize the Gemini Developer API backend service
const ai = getAI(firebaseApp, { backend: new GoogleAIBackend() });

// Create a `GenerativeModel` instance
// Set the mode (for example, use the on-device model if it's available)
const model = getGenerativeModel(ai, { mode: InferenceMode.PREFER_ON_DEVICE });

// `initializeDeviceModel` must be called:
// (1) after or on an end-user page interaction such as a button click
// and
// (2) before any queries to the model (such as `generateContent()`)
// You may want to `await` this promise if using `ONLY_ON_DEVICE` (see note below).
model.initializeDeviceModel((val) =>
  // Example: "Download progress: 72.62%""
  console.log(`Download progress: ${Math.round(val*10000) / 100}%`)
);

ধাপ ৭: কোনও মডেলে প্রম্পট অনুরোধ পাঠানো

এই বিভাগে দেখানো হয়েছে যে বিভিন্ন ধরনের আউটপুট জেনারেট করার জন্য কীভাবে বিভিন্ন ধরনের ইনপুট পাঠাতে হয়, যার মধ্যে রয়েছে:

• শুধু টেক্সট ইনপুট থেকে টেক্সট জেনারেট করা
• টেক্সট-ও-ছবি (মাল্টিমোডাল) ইনপুট থেকে টেক্সট জেনারেট করা

আপনি যদি স্ট্রাকচার্ড আউটপুট (যেমন JSON বা enum) জেনারেট করতে চান, তাহলে নিম্নলিখিত "টেক্সট জেনারেট করুন" উদাহরণের মধ্যে একটি ব্যবহার করুন এবং এর সাথে প্রদান করা স্কিমা অনুযায়ী উত্তর দেওয়ার জন্য মডেল কনফিগার করুন।

শুধুমাত্র টেক্সট ইনপুট থেকে টেক্সট জেনারেট করা

আপনি generateContent() ব্যবহার করে টেক্সট আছে এমন প্রম্পট থেকে টেক্সট জেনারেট করতে পারবেন:

// Imports + initialization of FirebaseApp and backend service + creation of model instance

// Wrap in an async function so you can use await
async function run() {
  // Provide a prompt that contains text
  const prompt = "Write a story about a magic backpack."

  // To generate text output, call `generateContent` with the text input
  const result = await model.generateContent(prompt);

  const response = result.response;
  const text = response.text();
  console.log(text);
}

run();

মনে রাখবেন যে Firebase AI Logic-এ generateContentStream (generateContent-এর পরিবর্তে) ব্যবহার করে টেক্সট উত্তরের স্ট্রিমিংও করা যায়।

টেক্সট-ও-ছবি (মাল্টিমোডাল) ইনপুট থেকে টেক্সট জেনারেট করুন

আপনি generateContent() ব্যবহার করে এমন প্রম্পট থেকে টেক্সট জেনারেট করতে পারবেন যাতে টেক্সট ও ছবির ফাইল থাকে—প্রতিটি ইনপুট ফাইলের mimeType ও ফাইলটি প্রদান করে।

অন-ডিভাইস ইনফারেন্সের জন্য PNG এবং JPEG ফর্ম্যাটের ছবি ইনপুট হিসেবে ব্যবহার করা যায়।

// Imports + initialization of FirebaseApp and backend service + creation of model instance

// Converts a File object to a Part object.
async function fileToGenerativePart(file) {
  const base64EncodedDataPromise = new Promise((resolve) => {
    const reader = new FileReader();
    reader.onloadend = () => resolve(reader.result.split(',')[1]);
    reader.readAsDataURL(file);
  });
  return {
    type: "inlineData",
    inlineData: { data: await base64EncodedDataPromise, mimeType: file.type },
  };
}

async function run() {
  // Provide a text prompt to include with the image
  const prompt = "Write a poem about this picture:";

  const fileInputEl = document.querySelector("input[type=file]");
  const imagePart = await fileToGenerativePart(fileInputEl.files[0]);

  // To generate text output, call `generateContent` with the text and image
  const result = await model.generateContent([prompt, imagePart]);

  const response = result.response;
  const text = response.text();
  console.log(text);
}

run();

মনে রাখবেন যে Firebase AI Logic-এ generateContentStream (generateContent-এর পরিবর্তে) ব্যবহার করে টেক্সট উত্তরের স্ট্রিমিংও করা যায়।

তুমি আর কী কী করতে পারো?

আপনার হাইব্রিড অভিজ্ঞতার জন্য আপনি বিভিন্ন অতিরিক্ত কনফিগারেশন বিকল্প এবং ক্ষমতা ব্যবহার করতে পারেন:

• ইনফারেন্স মোড সেট করুন।

• অন-ডিভাইস নাকি ইন-ক্লাউড ইনফারেন্স ব্যবহার করা হয়েছে তা নির্ধারণ করুন।

• ডিফল্ট ক্লাউড-হোস্টেড ফলব্যাক মডেল ওভাররাইড করুন।

• উত্তর কন্ট্রোল করতে মডেল কনফিগারেশন ব্যবহার করুন।

• স্ট্রাকচার্ড আউটপুট (যেমন JSON এবং enum) তৈরি করুন।

ফিচার এখনও কাজ করে না

হাইব্রিড বা অন-ডিভাইস ইনফারেন্সের জন্য Web SDK বা ক্লাউড-হোস্টেড মডেলের সব ক্ষমতা উপলভ্য নয়।

হাইব্রিড ইমপ্লিমেন্টেশনের জন্য ফিচার এখনও কাজ করে না

হাইব্রিড ইমপ্লিমেন্টেশনের (অন-ডিভাইস বা ক্লাউড ফলব্যাক কোনওটির মাধ্যমেই নয়) সাথে নিম্নলিখিত ফিচারগুলি ব্যবহার করা যাবে না:

• Gemini Live API: দ্বি-দিকনির্দেশক রিয়েল-টাইম স্ট্রিমিং কাজ করে না।

• সার্ভার প্রম্পট টেমপ্লেট: ম্যানেজ করা সার্ভার প্রম্পট টেমপ্লেট কাজ করে না।

• টোকেন গণনা করা: টোকেন গণনার উপর নির্ভর করা উচিত নয় কারণ ক্লাউড-হোস্টেড এবং অন-ডিভাইস মডেলের মধ্যে গণনা আলাদা হবে, তাই কোনও স্বজ্ঞাত ফলব্যাক নেই।

অন-ডিভাইস ইনফারেন্সের জন্য ফিচার এখনও কাজ করে না

অন-ডিভাইস ইনফারেন্সের জন্য নিম্নলিখিত ফিচারগুলি এখনও কাজ করে না, তবে ক্লাউড-হোস্টেড মডেলের জন্য সেগুলি উপলভ্য।

• Gemini Nano Banana মডেল ব্যবহার করে ছবি জেনারেট করা হচ্ছে

  • ক্লাউড-হোস্টেড মডেলে ফিরে যেতে পারে; তবে, ONLY_ON_DEVICE মোড একটি সমস্যা দেখাবে।

• JPEG এবং PNG ছাড়া অন্য ধরনের ইমেজ ফাইল ইনপুট থেকে টেক্সট জেনারেট করা

  • ক্লাউড-হোস্টেড মডেলে ফিরে যেতে পারে; তবে, ONLY_ON_DEVICE মোড একটি সমস্যা দেখাবে।

• অডিও, ভিডিও ও ডকুমেন্টের (PDF) মাল্টিমোডাল ইনপুট থেকে টেক্সট জেনারেট করা

  • ক্লাউড-হোস্টেড মডেলে ফিরে যেতে পারে; তবে, ONLY_ON_DEVICE মোড একটি সমস্যা দেখাবে।

• মাল্টিমোডাল অনুরোধে URL ব্যবহার করে ফাইল প্রদান করা। আপনাকে অবশ্যই অন-ডিভাইস মডেলে ইনলাইন ডেটা হিসেবে ফাইল প্রদান করতে হবে।

• মাল্টি-টার্ন চ্যাট

  • ক্লাউড-হোস্টেড মডেলে ফিরে যেতে পারে; তবে, ONLY_ON_DEVICE মোড একটি সমস্যা দেখাবে।

• মডেলকে উত্তর জেনারেট করতে সাহায্য করার জন্য টুল প্রদান করা (যেমন ফাংশন কলিং, কোড এক্সিকিউশন, URL কন্টেক্সট, Google Search-এর সাথে গ্রাউন্ডিং এবং Google Maps-এর সাথে গ্রাউন্ডিং)

• Firebase কনসোলে AI মনিটরিং, অন-ডিভাইস ইনফারেন্সের (অন-ডিভাইস লগ সহ) জন্য কোনও ডেটা দেখায় না। তবে, ক্লাউড-হোস্টেড মডেল ব্যবহার করে এমন যেকোনও ইনফারেন্স Firebase AI Logic-এর মাধ্যমে অন্যান্য ইনফারেন্সের মতোই মনিটর করা যেতে পারে।

অতিরিক্ত সীমাবদ্ধতা

উপরে উল্লেখ করা বিষয় ছাড়াও, অন-ডিভাইস ইনফারেন্সের নিম্নলিখিত সীমাবদ্ধতা আছে:

• আপনার অ্যাপের ব্যবহারকারীকে অবশ্যই ডেস্কটপে Chrome (ভার্সন ১৩৯ বা তার পরবর্তী) চালাতে হবে এবং প্রয়োজনীয় ফ্ল্যাগ চালু থাকতে হবে।

• প্রাথমিক মডেল ডাউনলোড করার জন্য অন-ডিভাইস মডেলের ক্ষেত্রে ব্যবহারকারীর ডিভাইসে পর্যাপ্ত স্টোরেজ স্পেস প্রয়োজন।

Firebase AI Logic-এর সাথে আপনার অভিজ্ঞতা সম্পর্কে মতামত জানান