ডিভাইসে ও ক্লাউড-হোস্ট করা মডেলের সাহায্যে Apple অ্যাপে হাইব্রিড অভিজ্ঞতা তৈরি করা

আপনি Firebase AI Logic ব্যবহার করে হাইব্রিড ইনফারেন্সের মাধ্যমে AI-পরিচালিত Apple অ্যাপ ও ফিচার তৈরি করতে পারবেন। হাইব্রিড ইনফারেন্স উপলভ্য হলে অন-ডিভাইস মডেল (বিশেষত Apple-এর ফাউন্ডেশন মডেল ফ্রেমওয়ার্ক) ব্যবহার করে ইনফারেন্স রান করতে দেয় এবং তা উপলভ্য না থাকলে নির্বিঘ্নে ক্লাউড-হোস্ট করা Google মডেলে ফিরে যায় (এবং এর বিপরীতও হতে পারে)।

এই পৃষ্ঠায় কীভাবে ক্লায়েন্ট SDK ব্যবহার করা শুরু করতে হয় তা বর্ণনা করা হয়েছে, এর পাশাপাশি অতিরিক্ত কনফিগারেশন বিকল্প ও ক্ষমতা যেমন, তাপমাত্রা দেখানো হয়েছে।

মনে রাখবেন, Firebase AI Logic-এর মাধ্যমে অন-ডিভাইস ইনফারেন্স Firebase AI Logic SDK v12.13.0+ ব্যবহার করে এবং Apple Intelligence চালু থাকা ডিভাইসে রান করা Apple অ্যাপের জন্য কাজ করে। এটি Apple-এর ফাউন্ডেশন মডেল ফ্রেমওয়ার্কের জন্য গ্রহণযোগ্য ব্যবহার সংক্রান্ত প্রয়োজনীয়তা দ্বারা পরিচালিত হয়।

সাজেস্ট করা ব্যবহারের ক্ষেত্র

• ইনফারেন্সের জন্য অন-ডিভাইস মডেল ব্যবহার করলে এগুলি পাওয়া যায়:

  • উন্নত গোপনীয়তা
  • কোনও খরচ ছাড়াই ইনফারেন্স
  • অফলাইন ফাংশনালিটি

• হাইব্রিড ফাংশনালিটি ব্যবহার করে এইসব সুবিধা পাওয়া যায়:

  • শেষ ব্যবহারকারীর ডিভাইস নির্বিশেষে সব গ্রাহককে একই ধরনের অ্যাপ অভিজ্ঞতা প্রদান করা
  • ইন্টারনেট কানেক্টিভিটি, কোটা সংক্রান্ত সীমাবদ্ধতা বা ডিভাইসের ক্ষমতা নির্বিশেষে জেনারেটিভ AI ফিচারের উপলভ্যতা উন্নত করা

কাজ করে এমন ফিচার, API ও ডিভাইস

Firebase AI Logic ব্যবহার করে হাইব্রিড ও অন-ডিভাইস ইনফারেন্স প্রয়োগ করার আগে, Apple অ্যাপের জন্য কী কী কাজ করে তা বুঝতে এই বিভাগ পর্যালোচনা করুন।

অন-ডিভাইস ইনফারেন্সের জন্য কাজ করে এমন ফিচার ও ক্ষমতা

অন-ডিভাইস ইনফারেন্স শুধুমাত্র টেক্সট জেনারেশন সমর্থন করে, বিশেষ করে নিম্নলিখিত টেক্সট জেনারেশন ক্ষমতা:

• শুধুমাত্র টেক্সট ইনপুট থেকে টেক্সট জেনারেট করা

• শুধুমাত্র টেক্সট ইনপুট থেকে টেক্সট স্ট্রিম করা

এই পৃষ্ঠার নিচে দেওয়া এখনও কাজ করে না এমন হাইব্রিড বা অন-ডিভাইস ইনফারেন্সের বিস্তারিত তালিকা পর্যালোচনা করতে ভুলবেন না।

কাজ করে এমন API ও ডিভাইস

• ইন-ক্লাউড ইনফারেন্স আপনার বেছে নেওয়া Gemini API প্রদানকারী (Gemini Developer API অথবা Agent Platform Gemini API (formerly Vertex AI)) ব্যবহার করে।

• অন-ডিভাইস ইনফারেন্স Apple-এর ফাউন্ডেশন মডেল ফ্রেমওয়ার্ক ব্যবহার করে, যা শুধুমাত্র Apple Intelligence চালু করা ডিভাইস-এ উপলভ্য। Apple Intelligence চালু করা হলে অন-ডিভাইস মডেল অটোমেটিক ডাউনলোড হয়ে যায়।

শুরু করুন

কাজ করে এমন ক্ষমতা, API ও ডিভাইস সম্পর্কে উপরে দেওয়া বিবরণ আপনি পড়েছেন কিনা তা নিশ্চিত করুন।

আপনি পাঠাতে চান এমন যেকোনও কাজ করে এমন প্রম্পট অনুরোধের জন্য প্রয়োজনীয় সাধারণ সেট-আপ এই 'শুরু করা যাক' ধাপগুলিতে বর্ণনা করা হয়েছে।

ধাপ ১: Firebase প্রোজেক্ট সেট-আপ করুন এবং Firebase-এর সাথে আপনার অ্যাপ কানেক্ট করুন

1. Firebase কনসোলে সাইন-ইন করুন, এবং তারপর আপনার Firebase প্রোজেক্ট বেছে নিন।

   আপনার কাছে আগে থেকেই Firebase প্রোজেক্ট নেই?

   আপনার Firebase প্রোজেক্ট না থাকলে, নতুন Firebase প্রোজেক্ট তৈরি করতে বোতামে ক্লিক করুন এবং তারপরে নিম্নলিখিত বিকল্পগুলির মধ্যে একটি ব্যবহার করুন:

   • বিকল্প ১: ওয়ার্কফ্লোর প্রথম ধাপে নতুন প্রোজেক্টের নাম লিখে সম্পূর্ণ নতুন Firebase প্রোজেক্ট (এবং এর অন্তর্নিহিত Google Cloud প্রোজেক্ট অটোমেটিক) তৈরি করুন।

   • বিকল্প ২: Google Cloud আগে থেকে থাকা প্রোজেক্টে "Firebase যোগ করুন" বিকল্পে গিয়ে Google Cloud প্রোজেক্টে Firebase যোগ করুন (পৃষ্ঠার নিচে) বিকল্পে ক্লিক করুন। ওয়ার্কফ্লোয়ের প্রথম ধাপে, আগে থেকে থাকা প্রোজেক্টের নাম এন্টার করা শুরু করুন এবং তারপরে দেখানো তালিকা থেকে প্রোজেক্টটি বেছে নিন।

   Firebase প্রজেক্ট তৈরি করতে, স্ক্রিনে দেখানো ওয়ার্কফ্লোয়ের বাকি ধাপগুলি সম্পূর্ণ করুন। মনে রাখবেন, প্রম্পট করা হলে, Firebase AI Logic SDK ব্যবহার করার জন্য আপনাকে Google Analytics সেট-আপ করতে হবে না।

2. Firebase কনসোলে, AI পরিষেবা > AI লজিক বিকল্পে যান।

3. আপনার প্রোজেক্টের জন্য প্রয়োজনীয় API ও রিসোর্স সেট-আপ করতে সাহায্য করে এমন নির্দেশিত ওয়ার্কফ্লো লঞ্চ করতে, শুরু করুন বিকল্পে ক্লিক করুন।

4. প্রম্পট করা হলে, আপনার অ্যাপ রেজিস্টার করতে এবং অ্যাপে Firebase কনফিগারেশন যোগ করতে অন-স্ক্রিন নির্দেশাবলী অনুসরণ করুন।

5. "Gemini API প্রদানকারী" বেছে নিতে বলা হলে, আমরা Gemini Developer API বেছে নেওয়ার সাজেশন দিই, এটি আপনাকে কোনও খরচ ছাড়াই দ্রুত শুরু করতে দেয়।

   পরে যেকোনও সময়, আপনি সবসময় Agent Platform Gemini API (formerly Vertex AI) সেট-আপ করতে পারবেন (এবং বিলিংয়ের জন্য এর প্রয়োজনীয়তা)।

6. Firebase AI Logic-এর জন্য প্রয়োজনীয় API ও সংশ্লিষ্ট পরিষেবা সেট-আপ করতে ওয়ার্কফ্লোতে চালিয়ে যান।

   ২০২৬ সালের জুলাই মাসের শুরু থেকে, ওয়ার্কফ্লোয়ের এই পর্যায়ে AI Logic-এর জন্য অটোমেটিক এনফোর্সমেন্ট Firebase App Check প্রয়োগ করা হবে, যা Gemini API সুরক্ষিত রাখার জন্য একটি গুরুত্বপূর্ণ পরিষেবা, যখন এটি আপনার অ্যাপ থেকে সরাসরি অ্যাক্সেস করা হয়। শুরু করার অংশ হিসেবে (এই গাইডে পরে ধাপগুলি দেখুন), App Check এনফোর্স করা হলে, লোকাল ডেভেলপমেন্টের জন্য আপনাকে App Check ডিবাগ প্রোভাইডার কনফিগার করতে হবে।

7. আপনার অ্যাপে প্রয়োজনীয় SDK যোগ করতে, এই গাইডের পরবর্তী ধাপ অনুসরণ করুন।

ধাপ ২: প্রয়োজনীয় SDK যোগ করুন

Xcode-এর নির্ভরতা ইনস্টল ও ম্যানেজ করতে Swift Package Manager (SPM) ব্যবহার করুন। SPM ব্যবহার করলেই শুধুমাত্র হাইব্রিড সাপোর্ট উপলভ্য হয়।

Firebase AI Logic লাইব্রেরি জেনারেটিভ মডেলের সাথে ইন্টার‍্যাক্ট করার জন্য API-তে অ্যাক্সেস প্রদান করে। Apple প্ল্যাটফর্মের (firebase-ios-sdk) জন্য Firebase SDK -এর অংশ হিসেবে লাইব্রেরি অন্তর্ভুক্ত করা হয়েছে।

আপনি আগে থেকেই Firebase ব্যবহার করলে, আপনার Firebase প্যাকেজ v12.13.0 বা তার পরের যেকোনও ভার্সন হিসেবে আছে কিনা তা নিশ্চিত করুন।

1. Xcode-এ, আপনার অ্যাপ প্রোজেক্ট খোলা থাকা অবস্থায়, ফাইল > প্যাকেজ ডিপেন্ডেন্সি যোগ করুন বিকল্পে নেভিগেট করুন।

2. প্রম্পট করা হলে, Firebase Apple প্ল্যাটফর্ম SDK রিপোজিটরি যোগ করুন:

   https://github.com/firebase/firebase-ios-sdk
   

3. লেটেস্ট SDK ভার্সন বেছে নিন।

4. FirebaseAILogic ও FirebaseAppCheck লাইব্রেরি বেছে নিন।

সম্পূর্ণ হয়ে গেলে, Xcode অটোমেটিক আপনার ডিপেন্ডেন্সি সমাধান করা ও ডাউনলোড করা শুরু করবে।

ধাপ ৩: লোকাল ডেভেলপমেন্টের জন্য App Check ডিবাগ প্রোভাইডার কনফিগার করা

২০২৬ সালের জুলাই মাসের শুরু থেকে, কনসোলে AI Logic এর জন্য নির্দেশিত সেট-আপ ওয়ার্কফ্লোর অংশ হিসেবে, Firebase App Check অটোমেটিক প্রয়োগ করা হবে যাতে Gemini API সুরক্ষিত থাকে। লোকাল ডেভেলপমেন্টের জন্য, আপনাকে App Check ডিবাগ প্রোভাইডার কনফিগার করতে হবে যাতে App Check-এর এনফোর্সমেন্ট বজায় রেখেই অ্যাটেস্টেশন বাইপাস করা যায়।

সিমুলেটরে আপনার অ্যাপ ইন্ট্যার‍্যাক্টিভ (যেমন, লোকাল ডেভেলপমেন্টের সময়) চালানোর সময় কীভাবে ডিবাগ প্রোভাইডার ব্যবহার করবেন তা এখানে দেওয়া হল:

1. আপনার Xcode প্রোজেক্টে, FirebaseAppCheck ইমপোর্ট করুন এবং আগে Firebase কনফিগার করার আগে App Check ডিবাগ প্রোভাইডার ফ্যাক্টরি দিয়ে ইনিশিয়ালাইজ করুন।

   import SwiftUI
   import FirebaseCore
   import FirebaseAppCheck
   
   @main
   struct YourApp: App {
     init() {
       let providerFactory = AppCheckDebugProviderFactory()
       AppCheck.setAppCheckProviderFactory(providerFactory)
       FirebaseApp.configure()
     }
   
     var body: some Scene {
       WindowGroup {
         NavigationView {
           ContentView()
         }
       }
     }
   }
   

2. আপনার ডিবাগ টোকেন পান:

   1. সিমুলেটরে বা আপনার টেস্ট ডিভাইসে অ্যাপ লঞ্চ করুন।

   2. Xcode কনসোল খুলুন এবং App Check ডিবাগ টোকেন খুঁজুন। যেমন:

      <Warning> [AppCheckCore][I-GAC004001] App Check debug token: '123a4567-b89c-12d3-e456-789012345678'.
      

   3. টোকেনটি কপি করুন (যেমন, 123a4567-b89c-12d3-e456-789012345678)।

3. App Check-এর সাথে আপনার ডিবাগ টোকেন রেজিস্টার করুন:

   1. Firebase কনসোলে, নিরাপত্তা > অ্যাপ চেক > অ্যাপ ট্যাব বিকল্পে যান।

   2. আপনার অ্যাপ খুঁজে নিন, ওভারফ্লো মেনুতে ক্লিক করুন (more_vert) এবং তারপরে ডিবাগ টোকেন ম্যানেজ করুন বিকল্প বেছে নিন।

   3. আপনার ডিবাগ টোকেন রেজিস্টার করতে অন-স্ক্রিন নির্দেশাবলী অনুসরণ করুন।

ডিবাগ প্রদানকারী সম্পর্কে আরও তথ্য (নতুন ডিবাগ টোকেন কীভাবে পাবেন তা সহ) পেতে, অফিসিয়াল App Check ডকুমেন্ট দেখুন।

ধাপ ৪: পরিষেবা চালু করুন এবং মডেল সেশন ইনস্ট্যান্স তৈরি করুন

মডেলকে প্রম্পট অনুরোধ পাঠানোর আগে নিম্নলিখিত বিষয়গুলি সেট-আপ করুন।

1. আপনার বেছে নেওয়া Gemini API প্রদানকারীর জন্য পরিষেবা শুরু করুন।

2. HybridModel সহ GenerativeModelSession ইনস্ট্যান্স তৈরি করুন।

3. আপনার পছন্দের উপর ভিত্তি করে primary ও secondary মডেল সেট করুন। আপনি চেষ্টা করা ইনফারেন্সের ক্রম সেট করতে পারেন:

   • প্রথমে ডিভাইসে ইনফারেন্স করার চেষ্টা করো, তবে ক্লাউডে ফলব্যাক করার অনুমতি দাও: primary-কে "সিস্টেম" মডেল এবং secondary-কে ক্লাউড মডেল হিসেবে সেট করো।

   • প্রথমে ইন-ক্লাউড ইনফারেন্স করার চেষ্টা করো, তবে ফলব্যাক হিসেবে অন-ডিভাইস করার অনুমতি দাও: primary-কে ক্লাউড মডেল এবং secondary-কে "সিস্টেম" মডেল হিসেবে সেট করো।

   মনে রাখবেন, SDK শুধুমাত্র একটি model সেট করার সুবিধা দেয়, যার অর্থ হল SDK শুধুমাত্র ডিভাইসে বা ক্লাউডে ইনফারেন্স করার চেষ্টা করবে। তবে, হাইব্রিড অভিজ্ঞতার জন্য আপনাকে HybridModel তৈরি করতে হবে এবং primary ও secondary, দুটি মডেলই সেট করতে হবে।

   "ইনফারেন্স মোড" (চেষ্টা করা ইনফারেন্সের ক্রম) কীভাবে কাজ করে সেই সম্পর্কে কনফিগারেশন বিকল্প থেকে আরও জানুন।

নিচের উদাহরণে দেখানো হয়েছে যে কীভাবে প্রথমে ডিভাইসে ইনফারেন্স করার চেষ্টা করতে হয়, কিন্তু ক্লাউড-হোস্টেড মডেলে ফল ব্যাক করার অনুমতি দিতে হয়:

// Initialize the Gemini Developer API backend service.
let ai = FirebaseAI.firebaseAI(backend: .googleAI())

// Initialize a cloud model that supports your use case.
let cloudModel = ai.geminiModel(name: "GEMINI_MODEL_NAME")
// Initialize an on-device model that supports your use case.
let systemModel = FirebaseAI.SystemLanguageModel.default

// Create a Hybrid Model.
// Provide your preferred model as `primary` and your fallback model as `secondary`.
// In this example, attempt to use on-device model; otherwise, fall back to cloud.
let hybridModel = HybridModel(
  primary: systemModel,
  secondary: cloudModel
)

// Create a GenerativeModelSession with the HybridModel created earlier.
let session = firebaseAI.generativeModelSession(
  model: hybridModel,
)

ধাপ ৫: কোনও মডেলে প্রম্পট অনুরোধ পাঠান

এই বিভাগে নিম্নলিখিত কাজগুলি কীভাবে করবেন তা দেখানো হয়েছে:

• শুধুমাত্র টেক্সট ইনপুট থেকে টেক্সট জেনারেট করা
• শুধুমাত্র টেক্সট ইনপুট থেকে টেক্সট স্ট্রিম করা

শুধুমাত্র টেক্সট ইনপুট থেকে টেক্সট জেনারেট করা

টেক্সট আছে এমন প্রম্পট থেকে টেক্সট তৈরি করতে, respond(to:) এইভাবে ব্যবহার করুন:

// Imports + initialization of Gemini API backend service + creation of model session

// Provide a prompt that contains text
let prompt = "Write a story about a magic backpack."

// To generate text output, call `respond(to:)` with the text input
let response = try await session.respond(to: prompt)
print(response.content)

শুধুমাত্র টেক্সট ইনপুট থেকে টেক্সট স্ট্রিম করা

মডেল জেনারেশন থেকে সম্পূর্ণ ফলাফল পাওয়ার জন্য অপেক্ষা না করে, আপনি আরও দ্রুত ইন্টার‍্যাকশন করতে পারেন এবং পরিবর্তে আংশিক ফলাফল ম্যানেজ করার জন্য স্ট্রিমিং ব্যবহার করতে পারেন। টেক্সট সহ প্রম্পট থেকে জেনারেট করা টেক্সট স্ট্রিম করতে, এইভাবে streamResponse(to:) ব্যবহার করুন:

// Imports + initialization of Gemini API backend service + creation of model session

// Provide a prompt that contains text
let prompt = "Write a story about a magic backpack."

// To stream generated text output, call `streamResponse(to:)` with the text input
let stream = session.streamResponse(to: prompt)
for try await snapshot in stream {
  print(snapshot.content)
}

আপনি আর কী করতে পারেন?

আপনার হাইব্রিড অভিজ্ঞতার জন্য আপনি বিভিন্ন অতিরিক্ত কনফিগারেশন বিকল্প ও ক্ষমতা ব্যবহার করতে পারবেন:

• "ইনফারেন্স মোড" সেট করো।

• ডিভাইসে মডেল উপলভ্য আছে কিনা চেক করুন।

• ডিভাইসে বা ক্লাউডে ইনফারেন্স ব্যবহার করা হয়েছে কিনা তা নির্ধারণ করুন।

• উত্তর কন্ট্রোল করতে মডেল কনফিগারেশন ব্যবহার করুন (যেমন, তাপমাত্রা)।

হাইব্রিড বা অন-ডিভাইস ইনফারেন্সের জন্য এখনও কাজ করে না এমন ফিচার

পরীক্ষামূলক রিলিজ হিসেবে, Firebase AI Logic বা ক্লাউড-হোস্ট করা মডেলের সব ক্ষমতা এতে কাজ করে না।

• হাইব্রিড বা অন-ডিভাইস ইমপ্লিমেন্টেশনের ক্ষেত্রে নিম্নলিখিত বিষয়গুলি কাজ করে না: Gemini Live API ও সার্ভার প্রম্পট টেমপ্লেট। এছাড়াও, টোকেন গণনার উপর নির্ভর করা উচিত নয় কারণ ক্লাউড-হোস্টেড এবং অন-ডিভাইস মডেলের মধ্যে গণনা আলাদা হবে, তাই কোনও স্বজ্ঞাত ফল ব্যাক নেই।

• ডিভাইসে ইনফারেন্সের জন্য নিম্নলিখিত ফিচারগুলি এখনও কাজ করে না। আপনি যদি এইসব ফিচারের মধ্যে কোনওটি ব্যবহার করতে চান, তাহলে আরও ধারাবাহিক অভিজ্ঞতার জন্য আমরা শুধুমাত্র ক্লাউড-হোস্টেড মডেল ব্যবহার করার সাজেশন দিই।

  • ছবি, অডিও, ভিডিও ও ডকুমেন্টের (PDF) মতো মাল্টিমোডাল ইনপুট থেকে টেক্সট জেনারেট করা

  • ছবি, অডিও বা ভিডিওর মতো মিডিয়া তৈরি করা

  • ৪০৯৬ টোকেন (বা আনুমানিক ৩০০ ইংরেজি শব্দ) অতিক্রম করে এমন অনুরোধ পাঠানো।

  • উত্তর জেনারেট করতে সাহায্য করার জন্য বিল্ট-ইন টুল সহ অন-ডিভাইস মডেল প্রদান করা (যেমন, কোড এক্সিকিউশন, URL প্রসঙ্গ এবং Google Search-এর সাথে গ্রাউন্ডিং)

• Firebase কনসোলে AI মনিটরিং, অন-ডিভাইস ইনফারেন্স (অন-ডিভাইস লগ সহ)-এর জন্য কোনও ডেটা দেখায় না। তবে, ক্লাউড-হোস্টেড মডেল ব্যবহার করে এমন যেকোনও ইনফারেন্সকে Firebase AI Logic-এর মাধ্যমে অন্যান্য ইনফারেন্সের মতো মনিটর করা যেতে পারে।

অতিরিক্ত সীমাবদ্ধতা

উপরে উল্লিখিত বিষয়গুলি ছাড়াও, ডিভাইসে ইনফারেন্সের নিম্নলিখিত সীমাবদ্ধতা আছে:

• আপনার অ্যাপের ব্যবহারকারীকে অবশ্যই Apple Intelligence চালু আছে এমন ডিভাইস ব্যবহার করতে হবে।

• আপনার অ্যাপ ফোরগ্রাউন্ডে থাকলে তবেই আপনার অ্যাপ অন-ডিভাইস ইনফারেন্স চালাতে পারবে।

Firebase AI Logic-এর সাথে আপনার অভিজ্ঞতা সম্পর্কে মতামত জানান