অন-ডিভাইস এবং ক্লাউড-হোস্টেড মডেলগুলির সাথে হাইব্রিড অভিজ্ঞতা তৈরি করুন

Firebase AI Logic ব্যবহার করে হাইব্রিড ইনফারেন্স ব্যবহার করে AI-চালিত অ্যাপ এবং বৈশিষ্ট্য তৈরি করুন। হাইব্রিড ইনফারেন্স উপলব্ধ থাকলে ডিভাইসের মডেল ব্যবহার করে ইনফারেন্স চালানো এবং অন্যথায় (এবং বিপরীতভাবে) ক্লাউড-হোস্টেড মডেলগুলিতে ফিরে আসা নির্বিঘ্নে সক্ষম করে।

এই রিলিজের মাধ্যমে, হাইব্রিড ইনফারেন্স ওয়েবের জন্য ফায়ারবেস এআই লজিক ক্লায়েন্ট SDK ব্যবহার করে উপলব্ধ, যা ডেস্কটপে ক্রোমের জন্য অন-ডিভাইস ইনফারেন্স সমর্থন করে।

কোড উদাহরণগুলিতে যান

প্রস্তাবিত ব্যবহারের ক্ষেত্রে এবং সমর্থিত ক্ষমতা

প্রস্তাবিত ব্যবহারের ক্ষেত্রে:

• ইনফারেন্স অফারগুলির জন্য একটি অন-ডিভাইস মডেল ব্যবহার করা:

  • উন্নত গোপনীয়তা
  • স্থানীয় প্রেক্ষাপট
  • বিনামূল্যে অনুমান
  • অফলাইন কার্যকারিতা

• হাইব্রিড কার্যকারিতা ব্যবহারের ফলে নিম্নলিখিত সুবিধাগুলি পাওয়া যায়:

  • ডিভাইসে মডেলের প্রাপ্যতা বা ইন্টারনেট সংযোগ নির্বিশেষে, আপনার ১০০% দর্শকের কাছে পৌঁছান

ডিভাইসে থাকা অনুমানের জন্য সমর্থিত ক্ষমতা এবং বৈশিষ্ট্য:

• একক-পালা কন্টেন্ট তৈরি, স্ট্রিমিং এবং নন-স্ট্রিমিং
• শুধুমাত্র-টেক্সট ইনপুট থেকে টেক্সট তৈরি করা হচ্ছে
• টেক্সট-এন্ড-ইমেজ ইনপুট থেকে টেক্সট তৈরি করা, বিশেষ করে JPEG এবং PNG এর ইমেজ টাইপ ইনপুট করা।
• JSON এবং enums সহ স্ট্রাকচার্ড আউটপুট তৈরি করা হচ্ছে

শুরু করুন

এই নির্দেশিকাটি আপনাকে দেখায় কিভাবে হাইব্রিড ইনফারেন্স সম্পাদনের জন্য Firebase AI Logic SDK for Web ব্যবহার শুরু করবেন।

একটি অন-ডিভাইস মডেল ব্যবহার করে ইনফারেন্স Chrome থেকে প্রম্পট API ব্যবহার করে; যেখানে ক্লাউড-হোস্টেড মডেল ব্যবহার করে ইনফারেন্স আপনার পছন্দের Gemini API প্রদানকারী (হয় Gemini Developer API অথবা Vertex AI Gemini API ) ব্যবহার করে।

এই বিভাগে বর্ণিত পদ্ধতি অনুসারে localhost ব্যবহার করে ডেভেলপ করা শুরু করুন (Chrome ডকুমেন্টেশনে localhost-এ API ব্যবহার সম্পর্কে আরও জানতে পারেন)। তারপর, একবার আপনার বৈশিষ্ট্যটি বাস্তবায়ন করার পরে, আপনি ঐচ্ছিকভাবে শেষ ব্যবহারকারীদের আপনার বৈশিষ্ট্যটি ব্যবহার করে দেখতে সক্ষম করতে পারেন।

ধাপ ১ : ডিভাইসে অনুমানের জন্য Chrome এবং প্রম্পট API সেট আপ করুন

1. নিশ্চিত করুন যে আপনি Chrome এর সাম্প্রতিক সংস্করণ ব্যবহার করছেন। chrome://settings/help এ আপডেট করুন।
   Chrome v139 এবং তার পরবর্তী সংস্করণ থেকে ডিভাইসে থাকা অনুমান পাওয়া যাবে।

2. নিম্নলিখিত ফ্ল্যাগটি Enabled এ সেট করে অন-ডিভাইস মাল্টিমোডাল মডেলটি সক্ষম করুন:

   • chrome://flags/#prompt-api-for-gemini-nano-multimodal-input

3. Chrome পুনরায় চালু করুন।

4. (ঐচ্ছিক) প্রথম অনুরোধের আগে অন-ডিভাইস মডেলটি ডাউনলোড করুন।

   প্রম্পট API Chrome-এ তৈরি করা আছে; তবে, ডিফল্টরূপে অন-ডিভাইস মডেলটি উপলব্ধ থাকে না। যদি আপনি অন-ডিভাইস ইনফারেন্সের জন্য আপনার প্রথম অনুরোধের আগে মডেলটি ডাউনলোড না করে থাকেন, তাহলে অনুরোধটি স্বয়ংক্রিয়ভাবে ব্যাকগ্রাউন্ডে মডেল ডাউনলোড শুরু করবে।

   ডিভাইসে থাকা মডেলটি ডাউনলোড করার নির্দেশাবলী দেখুন

   1. ডেভেলপার টুলস > কনসোল খুলুন।

   2. নিম্নলিখিতটি চালান:

      await LanguageModel.availability();
      

   3. নিশ্চিত করুন যে আউটপুটটি available , downloading , অথবা downloadable ।

   4. যদি আউটপুট downloadable হয়, তাহলে নিম্নলিখিতটি চালিয়ে মডেল ডাউনলোড শুরু করুন:

      await LanguageModel.create();
      

   5. ডাউনলোডের অগ্রগতি শুনতে এবং অনুরোধ করার আগে মডেলটি available তা নিশ্চিত করতে আপনি নিম্নলিখিত monitor কলব্যাক ব্যবহার করতে পারেন:

      const session = await LanguageModel.create({
        monitor(m) {
          m.addEventListener("downloadprogress", (e) => {
            console.log(`Downloaded ${e.loaded * 100}%`);
          });
        },
      });
      

ধাপ ২ : একটি Firebase প্রকল্প সেট আপ করুন এবং আপনার অ্যাপটিকে Firebase এর সাথে সংযুক্ত করুন।

1. Firebase কনসোলে সাইন ইন করুন, এবং তারপর আপনার Firebase প্রকল্পটি নির্বাচন করুন।

   আপনার কি ইতিমধ্যেই কোন Firebase প্রকল্প নেই?

   যদি আপনার ইতিমধ্যেই কোন Firebase প্রকল্প না থাকে, তাহলে একটি নতুন Firebase প্রকল্প তৈরি করতে বোতামটি ক্লিক করুন, এবং তারপর নিম্নলিখিত বিকল্পগুলির যেকোনো একটি ব্যবহার করুন:

   • বিকল্প ১ : কর্মপ্রবাহের প্রথম ধাপে একটি নতুন প্রকল্পের নাম প্রবেশ করিয়ে একটি সম্পূর্ণ নতুন ফায়ারবেস প্রকল্প (এবং এর অন্তর্নিহিত Google Cloud প্রকল্প স্বয়ংক্রিয়ভাবে) তৈরি করুন।

   • বিকল্প ২ : " Add Firebase to Google Cloud project " (পৃষ্ঠার নীচে) ক্লিক করে একটি বিদ্যমান Google Cloud প্রকল্পে "Add Firebase" যোগ করুন। কর্মপ্রবাহের প্রথম ধাপে, বিদ্যমান প্রকল্পের প্রকল্পের নাম প্রবেশ করা শুরু করুন, এবং তারপর প্রদর্শিত তালিকা থেকে প্রকল্পটি নির্বাচন করুন।

   একটি Firebase প্রকল্প তৈরি করতে অন-স্ক্রিন ওয়ার্কফ্লোর অবশিষ্ট ধাপগুলি সম্পূর্ণ করুন। মনে রাখবেন যে অনুরোধ করা হলে, Firebase AI Logic SDK ব্যবহার করার জন্য আপনাকে Google Analytics সেট আপ করার প্রয়োজন নেই ।

2. Firebase কনসোলে, ফায়ারবেস এআই লজিক পৃষ্ঠায় যান।

3. আপনার প্রকল্পের জন্য প্রয়োজনীয় API এবং সংস্থান সেট আপ করতে সাহায্য করার জন্য একটি নির্দেশিত কর্মপ্রবাহ চালু করতে "শুরু করুন" এ ক্লিক করুন।

4. Firebase AI Logic SDK-এর সাথে আপনি যে " Gemini API " প্রোভাইডারটি ব্যবহার করতে চান তা নির্বাচন করুন। Gemini Developer API প্রথমবার ব্যবহারকারীদের জন্য সুপারিশ করা হয়। আপনি চাইলে যেকোনো সময় বিলিং যোগ করতে পারেন অথবা Vertex AI Gemini API সেট আপ করতে পারেন।

   • জেমিনি ডেভেলপার এপিআই — বিলিং ঐচ্ছিক (বিনা খরচে স্পার্ক মূল্য পরিকল্পনায় উপলব্ধ, এবং আপনি ইচ্ছা করলে পরে আপগ্রেড করতে পারেন)
     কনসোলটি প্রয়োজনীয় API গুলি সক্ষম করবে এবং আপনার প্রকল্পে একটি জেমিনি API কী তৈরি করবে।
     এই জেমিনি এপিআই কীটি আপনার অ্যাপের কোডবেসে যোগ করবেন না । আরও জানুন।

   • ভার্টেক্স এআই জেমিনি এপিআই — বিলিং প্রয়োজন (পে-অ্যাজ-ইউ-গো ব্লেজ প্রাইসিং প্ল্যান প্রয়োজন)
     কনসোলটি আপনাকে বিলিং সেট আপ করতে এবং আপনার প্রকল্পে প্রয়োজনীয় API গুলি সক্ষম করতে সাহায্য করবে।

5. কনসোলের ওয়ার্কফ্লোতে যদি অনুরোধ করা হয়, তাহলে আপনার অ্যাপটি নিবন্ধন করতে এবং এটিকে Firebase-এর সাথে সংযুক্ত করতে অন-স্ক্রীন নির্দেশাবলী অনুসরণ করুন।

6. আপনার অ্যাপে SDK যোগ করতে এই নির্দেশিকার পরবর্তী ধাপে যান।

ধাপ ৩ : SDK যোগ করুন

ফায়ারবেস লাইব্রেরি জেনারেটিভ মডেলগুলির সাথে ইন্টারঅ্যাক্ট করার জন্য API গুলিতে অ্যাক্সেস প্রদান করে। লাইব্রেরিটি ওয়েবের জন্য ফায়ারবেস জাভাস্ক্রিপ্ট SDK এর অংশ হিসাবে অন্তর্ভুক্ত।

1. npm ব্যবহার করে ওয়েবের জন্য Firebase JS SDK ইনস্টল করুন:

   npm install firebase
   

2. আপনার অ্যাপে Firebase আরম্ভ করুন:

   import { initializeApp } from "firebase/app";
   
   // TODO(developer) Replace the following with your app's Firebase configuration
   // See: https://firebase.google.com/docs/web/learn-more#config-object
   const firebaseConfig = {
     // ...
   };
   
   // Initialize FirebaseApp
   const firebaseApp = initializeApp(firebaseConfig);
   

ধাপ ৪ : পরিষেবাটি শুরু করুন এবং একটি মডেল ইনস্ট্যান্স তৈরি করুন

জেমিনি মডেলে প্রম্পট পাঠানোর আগে, আপনার নির্বাচিত API প্রদানকারীর জন্য পরিষেবাটি শুরু করুন এবং একটি GenerativeModel ইনস্ট্যান্স তৈরি করুন।

mode এর মধ্যে একটিতে সেট করুন:

• PREFER_ON_DEVICE : SDK কে ডিভাইসের অন-ডিভাইস মডেলটি উপলব্ধ থাকলে ব্যবহার করার জন্য কনফিগার করে, অথবা ক্লাউড-হোস্টেড মডেলে ফিরে যেতে পারে।

• ONLY_ON_DEVICE : ডিভাইসের মডেল ব্যবহার করতে অথবা ব্যতিক্রম প্রয়োগ করতে SDK কনফিগার করে।

• PREFER_IN_CLOUD : SDK কে ক্লাউড-হোস্টেড মডেলটি উপলব্ধ থাকলে ব্যবহার করার জন্য কনফিগার করে, অথবা অন-ডিভাইস মডেলে ফিরে যায়।

• ONLY_IN_CLOUD : SDK কে এমনভাবে কনফিগার করে যাতে অন-ডিভাইস মডেলটি কখনও ব্যবহার না করা হয়।

যখন আপনি PREFER_ON_DEVICE , PREFER_IN_CLOUD , অথবা ONLY_IN_CLOUD ব্যবহার করেন তখন ডিফল্ট ক্লাউড-হোস্টেড মডেল হল gemini-2.0-flash-lite , কিন্তু আপনি ডিফল্ট ওভাররাইড করতে পারেন।

import { initializeApp } from "firebase/app";
import { getAI, getGenerativeModel, GoogleAIBackend, InferenceMode } from "firebase/ai";

// TODO(developer) Replace the following with your app's Firebase configuration
// See: https://firebase.google.com/docs/web/learn-more#config-object
const firebaseConfig = {
  // ...
};

// Initialize FirebaseApp
const firebaseApp = initializeApp(firebaseConfig);

// Initialize the Gemini Developer API backend service
const ai = getAI(firebaseApp, { backend: new GoogleAIBackend() });

// Create a `GenerativeModel` instance
// Set the mode, for example to use on-device model when possible
const model = getGenerativeModel(ai, { mode: InferenceMode.PREFER_ON_DEVICE });

// Imports + initialization of FirebaseApp and backend service + creation of model instance

// Wrap in an async function so you can use await
async function run() {
  // Provide a prompt that contains text
  const prompt = "Write a story about a magic backpack."

  // To generate text output, call `generateContent` with the text input
  const result = await model.generateContent(prompt);

  const response = result.response;
  const text = response.text();
  console.log(text);
}

run();

// Imports + initialization of FirebaseApp and backend service + creation of model instance

// Converts a File object to a Part object.
async function fileToGenerativePart(file) {
  const base64EncodedDataPromise = new Promise((resolve) => {
    const reader = new FileReader();
    reader.onloadend = () => resolve(reader.result.split(',')[1]);
    reader.readAsDataURL(file);
  });
  return {
    inlineData: { data: await base64EncodedDataPromise, mimeType: file.type },
  };
}

async function run() {
  // Provide a text prompt to include with the image
  const prompt = "Write a poem about this picture:";

  const fileInputEl = document.querySelector("input[type=file]");
  const imagePart = await fileToGenerativePart(fileInputEl.files[0]);

  // To generate text output, call `generateContent` with the text and image
  const result = await model.generateContent([prompt, imagePart]);

  const response = result.response;
  const text = response.text();
  console.log(text);
}

run();

1. প্রম্পট API Chrome Origin ট্রায়ালের জন্য নিবন্ধন করুন। আপনাকে একটি টোকেন দেওয়া হবে।

2. আপনি যে ওয়েব পৃষ্ঠার জন্য ট্রায়াল বৈশিষ্ট্যটি সক্ষম করতে চান, প্রতিটি ওয়েব পৃষ্ঠায় টোকেনটি প্রদান করুন। নিম্নলিখিত বিকল্পগুলির মধ্যে একটি ব্যবহার করুন:

   • <head> ট্যাগে মেটা ট্যাগ হিসেবে টোকেনটি প্রদান করুন: <meta http-equiv="origin-trial" content=" TOKEN ">

   • HTTP হেডার হিসেবে টোকেনটি প্রদান করুন: Origin-Trial: TOKEN

   • প্রোগ্রাম্যাটিকভাবে টোকেনটি প্রদান করুন।

বিকল্প অনুমান মোড ব্যবহার করুন

উপরের উদাহরণগুলিতে PREFER_ON_DEVICE মোড ব্যবহার করা হয়েছে যাতে SDK কনফিগার করা যায় যাতে এটি উপলব্ধ থাকলে একটি অন-ডিভাইস মডেল ব্যবহার করা যায়, অথবা ক্লাউড-হোস্টেড মডেলে ফিরে যেতে পারে। SDK তিনটি বিকল্প ইনফারেন্স মোড অফার করে: ONLY_ON_DEVICE , ONLY_IN_CLOUD , এবং PREFER_IN_CLOUD .

• ONLY_ON_DEVICE মোড ব্যবহার করুন যাতে SDK শুধুমাত্র একটি অন-ডিভাইস মডেল ব্যবহার করতে পারে। এই কনফিগারেশনে, যদি একটি অন-ডিভাইস মডেল উপলব্ধ না থাকে তবে API একটি ত্রুটি দেখাবে।

  const model = getGenerativeModel(ai, { mode: InferenceMode.ONLY_ON_DEVICE });
  

• ONLY_IN_CLOUD মোড ব্যবহার করুন যাতে SDK শুধুমাত্র একটি ক্লাউড-হোস্টেড মডেল ব্যবহার করতে পারে।

  const model = getGenerativeModel(ai, { mode: InferenceMode.ONLY_IN_CLOUD });
  

• PREFER_IN_CLOUD মোড ব্যবহার করুন যাতে SDK ক্লাউড-হোস্টেড মডেল ব্যবহার করার চেষ্টা করে, কিন্তু ক্লাউড-হোস্টেড মডেলটি অনুপলব্ধ থাকলে (যেমন, ডিভাইসটি অফলাইনে থাকলে) অন-ডিভাইস মডেলে ফিরে যাবে।

  const model = getGenerativeModel(ai, { mode: InferenceMode.PREFER_IN_CLOUD });
  

অন-ডিভাইস নাকি ইন-ক্লাউড ইনফারেন্স ব্যবহার করা হয়েছে তা নির্ধারণ করুন

যদি আপনি PREFER_ON_DEVICE অথবা PREFER_IN_CLOUD ইনফারেন্স মোড ব্যবহার করেন, তাহলে প্রদত্ত অনুরোধের জন্য কোন মোড ব্যবহার করা হয়েছে তা জানা সহায়ক হতে পারে। এই তথ্য প্রতিটি প্রতিক্রিয়ার inferenceSource সম্পত্তি দ্বারা সরবরাহ করা হয় (JS SDK v12.5.0 দিয়ে শুরু করে উপলব্ধ)।

যখন আপনি এই বৈশিষ্ট্যটি অ্যাক্সেস করবেন, তখন ফেরত আসা মানটি হয় ON_DEVICE অথবা IN_CLOUD হবে।

// ...

console.log('You used: ' + result.response.inferenceSource);

console.log(result.response.text());

ডিফল্ট ক্লাউড-হোস্টেড মডেল হল gemini-2.0-flash-lite ।

PREFER_ON_DEVICE মোড ব্যবহার করার সময় এই মডেলটি ফলব্যাক ক্লাউড-হোস্টেড মডেল। ONLY_IN_CLOUD মোড বা PREFER_IN_CLOUD মোড ব্যবহার করার সময় এটি ডিফল্ট মডেল।

আপনি একটি বিকল্প ডিফল্ট ক্লাউড-হোস্টেড মডেল নির্দিষ্ট করতে inCloudParams কনফিগারেশন বিকল্পটি ব্যবহার করতে পারেন।

const model = getGenerativeModel(ai, {
  mode: InferenceMode.INFERENCE_MODE,
  inCloudParams: {
    model: "GEMINI_MODEL_NAME"
  }
});

const model = getGenerativeModel(ai, {
  mode: InferenceMode.INFERENCE_MODE,
  inCloudParams: {
    model: "GEMINI_MODEL_NAME"
    temperature: 0.8,
    topK: 10
  }
});

const model = getGenerativeModel(ai, {
  mode: InferenceMode.INFERENCE_MODE,
  onDeviceParams: {
    createOptions: {
      temperature: 0.8,
      topK: 8
    }
  }
});

import {
  getAI,
  getGenerativeModel,
  Schema
} from "firebase/ai";

const jsonSchema = Schema.object({
 properties: {
    characters: Schema.array({
      items: Schema.object({
        properties: {
          name: Schema.string(),
          accessory: Schema.string(),
          age: Schema.number(),
          species: Schema.string(),
        },
        optionalProperties: ["accessory"],
      }),
    }),
  }
});

const model = getGenerativeModel(ai, {
  mode: InferenceMode.INFERENCE_MODE,
  inCloudParams: {
    model: "gemini-2.5-flash"
    generationConfig: {
      responseMimeType: "application/json",
      responseSchema: jsonSchema
    },
  }
  onDeviceParams: {
    promptOptions: {
      responseConstraint: jsonSchema
    }
  }
});

// ...

const enumSchema = Schema.enumString({
  enum: ["drama", "comedy", "documentary"],
});

const model = getGenerativeModel(ai, {

// ...

    generationConfig: {
      responseMimeType: "text/x.enum",
      responseSchema: enumSchema
    },

// ...
});

// ...