ডিভাইসে ও ক্লাউড-হোস্ট করা মডেলের সাহায্যে Apple অ্যাপে হাইব্রিড অভিজ্ঞতা তৈরি করা

আপনি Firebase AI Logic ব্যবহার করে হাইব্রিড ইনফারেন্সের মাধ্যমে AI-পরিচালিত Apple অ্যাপ ও ফিচার তৈরি করতে পারবেন। হাইব্রিড ইনফারেন্স, অন-ডিভাইস মডেল (বিশেষ করে Apple-এর Foundation Models ফ্রেমওয়ার্ক) ব্যবহার করে ইনফারেন্স রান করার সুবিধা দেয়, যখন উপলভ্য থাকে এবং অন্যথায় ক্লাউড-হোস্টেড Google মডেলে নির্বিঘ্নে ফিরে যায় (এবং এর উল্টোটাও হয়)।

এই পৃষ্ঠায় বর্ণনা করা হয়েছে যে কীভাবে ক্লায়েন্ট SDK ব্যবহার করা শুরু করবেন। এই স্ট্যান্ডার্ড সেট-আপ সম্পূর্ণ করার পরে, অতিরিক্ত কনফিগারেশন বিকল্প ও ক্ষমতা চেক করে দেখুন।

মনে রাখবেন যে Firebase AI Logic-এর মাধ্যমে অন-ডিভাইস ইনফারেন্স Apple-এর জন্য কাজ করে Firebase AI Logic SDK v12.13.0+ ব্যবহার করে এবং Apple Intelligence চালু থাকা ডিভাইসে চলা অ্যাপের ক্ষেত্রে। এটি Apple-এর ফাউন্ডেশন মডেল ফ্রেমওয়ার্কের জন্য গ্রহণযোগ্য ব্যবহারের প্রয়োজনীয়তা দ্বারা পরিচালিত হয়।

কোডের উদাহরণ দেখতে সরাসরি যান

ব্যবহারের ক্ষেত্র ও সমর্থিত ক্ষমতা

আপনার অ্যাপের ব্যবহারের উপর নির্ভর করে, আপনি অন-ডিভাইস বা হাইব্রিড অভিজ্ঞতার বিভিন্ন সুবিধা নিতে পারেন:

  • অনুমানের জন্য অন-ডিভাইস মডেল ব্যবহার করার সুবিধা:

    • উন্নত গোপনীয়তা
    • স্থানীয় প্রসঙ্গ
    • কোনও খরচ ছাড়াই ইনফারেন্স
    • অফলাইন কার্যকারিতা
  • হাইব্রিড পদ্ধতি ব্যবহার করার সুবিধা:

    • ব্যবহারকারীর ডিভাইস যাই হোক না কেন, একই ধরনের অ্যাপ অভিজ্ঞতা প্রদান করা
    • ইন্টারনেট কানেক্টিভিটি, কোটার সীমাবদ্ধতা বা ডিভাইসের ক্ষমতা যাই হোক না কেন, জেনারেটিভ AI ফিচারের উপলভ্যতা উন্নত করুন

অন-ডিভাইস ইনফারেন্সের যেসব ক্ষমতা কাজ করে

অন-ডিভাইস ইনফারেন্স শুধুমাত্র টেক্সট জেনারেশন সাপোর্ট করে, বিশেষ করে নিম্নলিখিত ক্ষমতাগুলি:

এই পৃষ্ঠার নিচে হাইব্রিড বা অন-ডিভাইস ইনফারেন্সের জন্য এখনও কাজ করে না এমন ফিচারের তালিকা পর্যালোচনা করতে ভুলবেন না।

কাজ করে এমন API ও ডিভাইস

নিম্নলিখিত বিভাগে কাজ করে এমন API এবং কাজ করে এমন ডিভাইস (এবং তাদের অন-ডিভাইস মডেল) সম্পর্কে বর্ণনা করা হয়েছে।

ইন-ক্লাউড বনাম অন-ডিভাইস ইনফারেন্সের জন্য কাজ করে এমন API

যেসব Apple ডিভাইসে এটি কাজ করে এবং সেগুলির অন-ডিভাইস মডেল

অন-ডিভাইস ইনফারেন্সের (যা Apple-এর ফাউন্ডেশন মডেল ফ্রেমওয়ার্ক ব্যবহার করে) জন্য, আপনি Apple-এর ডকুমেন্টেশনে Apple Intelligence চালু থাকা ডিভাইসের একটি তালিকা খুঁজে পেতে পারেন।

শুরু করুন

এই শুরু করার ধাপগুলি আপনি পাঠাতে চান এমন যেকোনও কাজ করে এমন প্রম্পট অনুরোধের জন্য প্রয়োজনীয় সাধারণ সেট-আপ বর্ণনা করে।

ধাপ ১: Firebase প্রোজেক্ট সেট-আপ করুন এবং Firebase-এর সাথে আপনার অ্যাপ কানেক্ট করুন

  1. Firebase কনসোলে সাইন-ইন করুন, এবং তারপর আপনার Firebase প্রোজেক্ট বেছে নিন।

  2. Firebase কনসোলে, AI পরিষেবা > AI লজিক বিকল্পে যান।

  3. আপনার প্রোজেক্টের জন্য প্রয়োজনীয় API ও রিসোর্স সেট-আপ করতে সাহায্য করে এমন নির্দেশিত ওয়ার্কফ্লো চালু করতে, শুরু করুন বিকল্পে ক্লিক করুন।

  4. প্রম্পট করা হলে, আপনার অ্যাপ রেজিস্টার করতে এবং আপনার অ্যাপে Firebase কনফিগারেশন যোগ করতে অন-স্ক্রিন নির্দেশাবলী অনুসরণ করুন।

  5. "Gemini API প্রোভাইডার" বেছে নিতে বলা হলে, আমরা আপনাকে Gemini Developer API বেছে নেওয়ার সাজেশন দিই, যা আপনাকে কোনও খরচ ছাড়াই দ্রুত শুরু করতে দেয়।

    পরে যেকোনও সময়, আপনি সবসময় Agent Platform Gemini API (formerly Vertex AI) সেট-আপ করতে পারবেন (এবং বিলিংয়ের জন্য এর প্রয়োজনীয়তা)।

  6. Firebase AI Logic-এর জন্য প্রয়োজনীয় API ও সংশ্লিষ্ট পরিষেবা সেট-আপ করতে ওয়ার্কফ্লোতে চালিয়ে যান।

    ওয়ার্কফ্লোর এই ধাপ অটোমেটিক AI Logic-এর জন্য Firebase App Check এনফোর্স করে, যা আপনার অ্যাপ থেকে সরাসরি অ্যাক্সেস করার সময় Gemini API-কে সুরক্ষিত রাখতে সাহায্য করার জন্য একটি গুরুত্বপূর্ণ পরিষেবা। শুরু করার অংশ হিসেবে (এই গাইডের পরবর্তী ধাপগুলি দেখুন), App Check এনফোর্স করা হলে, লোকাল ডেভেলপমেন্টের জন্য আপনাকে App Check ডিবাগ প্রোভাইডার কনফিগার করতে হবে।

  7. আপনার অ্যাপে প্রয়োজনীয় SDK যোগ করতে এই গাইডের পরবর্তী ধাপে যান।

ধাপ ২: প্রয়োজনীয় SDK যোগ করুন

Xcode ডিপেন্ডেন্সি ইনস্টল ও ম্যানেজ করতে Swift প্যাকেজ ম্যানেজার (SPM) ব্যবহার করুন। হাইব্রিড সহায়তা শুধুমাত্র SPM ব্যবহার করার সময় উপলভ্য।

Firebase AI Logic লাইব্রেরি জেনারেটিভ মডেলের সাথে ইন্টার‍্যাক্ট করার জন্য API-তে অ্যাক্সেস প্রদান করে। লাইব্রেরিটি Apple প্ল্যাটফর্মের (firebase-ios-sdk) জন্য Firebase SDK-এর অংশ হিসেবে অন্তর্ভুক্ত করা হয়েছে।

আপনি আগে থেকেই Firebase ব্যবহার করলে, আপনার Firebase প্যাকেজ v12.13.0 বা তার পরের ভার্সন কিনা তা নিশ্চিত করুন।

  1. Xcode-এ, আপনার অ্যাপ প্রোজেক্ট খোলা রেখে, ফাইল > প্যাকেজ ডিপেন্ডেন্সি যোগ করুন বিকল্পে নেভিগেট করুন।

  2. প্রম্পট করা হলে, Firebase Apple প্ল্যাটফর্ম SDK রিপোজিটরি যোগ করুন:

    https://github.com/firebase/firebase-ios-sdk
    
  3. লেটেস্ট SDK ভার্সন বেছে নিন।

  4. FirebaseAILogic এবং FirebaseAppCheck লাইব্রেরি বেছে নিন।

হয়ে গেলে, Xcode অটোমেটিক ব্যাকগ্রাউন্ডে আপনার ডিপেন্ডেন্সি সমাধান ও ডাউনলোড করা শুরু করবে।

ধাপ ৩: লোকাল ডেভেলপমেন্টের জন্য App Check ডিবাগ প্রোভাইডার কনফিগার করুন

কনসোলে AI Logic-এর জন্য নির্দেশিত সেট-আপ ওয়ার্কফ্লোর অংশ হিসেবে, Gemini API সুরক্ষিত করতে Firebase App Check অটোমেটিক এনফোর্স করা হয়। লোকাল ডেভেলপমেন্টের জন্য, আপনাকে App Check ডিবাগ প্রোভাইডার কনফিগার করতে হবে যাতে অ্যাটেস্টেশন বাইপাস করা যায় এবং একই সাথে App Check-এর এনফোর্সমেন্ট বজায় রাখা যায়।

সিমুলেটরে ইন্টার‍্যাক্টিভভাবে (যেমন, লোকাল ডেভেলপমেন্টের সময়) আপনার অ্যাপ চালানোর সময় কীভাবে ডিবাগ প্রোভাইডার ব্যবহার করবেন তা এখানে দেওয়া হল:

  1. আপনার Xcode প্রোজেক্টে, FirebaseAppCheck ইমপোর্ট করুন এবং Firebase কনফিগার করার আগে ডিবাগ প্রোভাইডার ফ্যাক্টরির সাথে App Check ইনিশিয়ালাইজ করুন।

    import SwiftUI
    import FirebaseCore
    import FirebaseAppCheck
    
    @main
    struct YourApp: App {
      init() {
        let providerFactory = AppCheckDebugProviderFactory()
        AppCheck.setAppCheckProviderFactory(providerFactory)
        FirebaseApp.configure()
      }
    
      var body: some Scene {
        WindowGroup {
          NavigationView {
            ContentView()
          }
        }
      }
    }
    
  2. আপনার ডিবাগ টোকেন পান:

    1. সিমুলেটর বা আপনার টেস্ট ডিভাইসে অ্যাপ লঞ্চ করুন।

    2. Xcode কনসোল খুলুন এবং App Check ডিবাগ টোকেন খুঁজুন। যেমন:

      <Warning> [AppCheckCore][I-GAC004001] App Check debug token: '123a4567-b89c-12d3-e456-789012345678'.
      
    3. টোকেন কপি করুন (যেমন, 123a4567-b89c-12d3-e456-789012345678)।

  3. App Check-এর মাধ্যমে আপনার ডিবাগ টোকেন রেজিস্টার করুন:

    1. Firebase কনসোলে, নিরাপত্তা > App Check > অ্যাপ ট্যাব বিকল্পে যান।

    2. আপনার অ্যাপ খুঁজে, ওভারফ্লো মেনুতে () ক্লিক করুন এবং তারপর ডিবাগ টোকেন ম্যানেজ করুন বিকল্প বেছে নিন।

    3. আপনার ডিবাগ টোকেন রেজিস্টার করতে অন-স্ক্রিন নির্দেশাবলী অনুসরণ করুন।

ডিবাগ প্রোভাইডার সম্পর্কে আরও জানতে (নতুন ডিবাগ টোকেন কীভাবে পাবেন সেই তথ্য সহ), অফিসিয়াল App Check ডকুমেন্ট চেক করে দেখুন।

ধাপ ৪: পরিষেবা শুরু করুন এবং একটি মডেল সেশন ইনস্ট্যান্স তৈরি করুন

এই পৃষ্ঠায় পরিষেবা প্রদানকারী-নির্দিষ্ট কন্টেন্ট ও কোড দেখতে আপনার Gemini API পরিষেবা প্রদানকারীর উপর ক্লিক করুন।

মডেলকে প্রম্পট অনুরোধ পাঠানোর আগে নিম্নলিখিতগুলি সেট-আপ করুন।

  1. আপনার বেছে নেওয়া Gemini API প্রদানকারীর জন্য পরিষেবা শুরু করুন।

  2. HybridModel-এর সাথে GenerativeModelSession ইনস্ট্যান্স তৈরি করুন।

  3. আপনার পছন্দ অনুযায়ী primary ও secondary মডেল সেট করুন। আপনি অনুমান করার চেষ্টার ক্রম সেট করতে পারবেন:

    • প্রথমে অন-ডিভাইস ইনফারেন্সের চেষ্টা করুন, তবে ক্লাউডে ফলব্যাক করার অনুমতি দিন: primary-কে "সিস্টেম" মডেল এবং secondary-কে ক্লাউড মডেলে সেট করুন।

    • প্রথমে ইন-ক্লাউড ইনফারেন্সের চেষ্টা করুন, তবে অন-ডিভাইসে ফলব্যাক করার অনুমতি দিন: primary-কে ক্লাউড মডেলে এবং secondary-কে "সিস্টেম" মডেলে সেট করুন।

    মনে রাখবেন যে SDK শুধুমাত্র একটি model সেট করার সুবিধা দেয়, যার অর্থ হল SDK শুধুমাত্র অন-ডিভাইস বা ইন-ক্লাউড ইনফারেন্সের চেষ্টা করবে। তবে, হাইব্রিড অভিজ্ঞতার জন্য, আপনাকে একটি HybridModel তৈরি করতে হবে এবং primary ও secondary মডেল, দুটিই সেট করতে হবে।

    কনফিগারেশন বিকল্প থেকে "ইনফারেন্স মোড" (ইনফারেন্সের চেষ্টা করার ক্রম) সম্পর্কে আরও জানুন।

নিম্নলিখিত উদাহরণে দেখানো হয়েছে যে কীভাবে প্রথমে অন-ডিভাইস ইনফারেন্সের চেষ্টা করা যায়, তবে ক্লাউড-হোস্ট করা মডেলে ফিরে যাওয়ার অনুমতি দেওয়া হয়:

// Initialize the Gemini Developer API backend service.
let ai = FirebaseAI.firebaseAI(backend: .googleAI())

// Initialize a cloud model that supports your use case.
let cloudModel = ai.geminiModel(name: "GEMINI_MODEL_NAME")
// Initialize an on-device model that supports your use case.
let systemModel = FirebaseAI.SystemLanguageModel.default

// Create a Hybrid Model.
// Provide your preferred model as `primary` and your fallback model as `secondary`.
// In this example, attempt to use on-device model; otherwise, fall back to cloud.
let hybridModel = HybridModel(
  primary: systemModel,
  secondary: cloudModel
)

// Create a GenerativeModelSession with the HybridModel created earlier.
let session = firebaseAI.generativeModelSession(
  model: hybridModel,
)

ধাপ ৫: কোনও মডেলে প্রম্পট অনুরোধ পাঠানো

এই বিভাগ থেকে আপনি নিম্নলিখিত কাজগুলি কীভাবে করবেন তা জানতে পারবেন:

শুধুমাত্র টেক্সট ইনপুট থেকে টেক্সট জেনারেট করা

এই স্যাম্পেল ব্যবহার করার আগে, এই গাইডের শুরু করুন বিভাগটি সম্পূর্ণ করেছেন কিনা তা নিশ্চিত করুন।

টেক্সট আছে এমন প্রম্পট থেকে টেক্সট জেনারেট করতে, এইভাবে respond(to:) ব্যবহার করুন:

// Imports + initialization of Gemini API backend service + creation of model session

// Provide a prompt that contains text
let prompt = "Write a story about a magic backpack."

// To generate text output, call `respond(to:)` with the text input
let response = try await session.respond(to: prompt)
print(response.content)

শুধুমাত্র টেক্সট ইনপুট থেকে জেনারেট করা টেক্সট স্ট্রিম করুন

এই স্যাম্পেল ব্যবহার করার আগে, এই গাইডের শুরু করুন বিভাগটি সম্পূর্ণ করেছেন কিনা তা নিশ্চিত করুন।

মডেল জেনারেশন থেকে সম্পূর্ণ ফলাফলের জন্য অপেক্ষা না করে আপনি আরও দ্রুত ইন্টার‍্যাকশন করতে পারবেন এবং পরিবর্তে আংশিক ফলাফল ম্যানেজ করতে স্ট্রিমিং ব্যবহার করতে পারবেন। টেক্সট আছে এমন প্রম্পট থেকে জেনারেট করা টেক্সট স্ট্রিম করতে, streamResponse(to:) এইভাবে ব্যবহার করুন:

// Imports + initialization of Gemini API backend service + creation of model session

// Provide a prompt that contains text
let prompt = "Write a story about a magic backpack."

// To stream generated text output, call `streamResponse(to:)` with the text input
let stream = session.streamResponse(to: prompt)
for try await snapshot in stream {
  print(snapshot.content)
}

তুমি আর কী কী করতে পারো?

আপনার হাইব্রিড অভিজ্ঞতার জন্য আপনি বিভিন্ন অতিরিক্ত কনফিগারেশন বিকল্প এবং ক্ষমতা ব্যবহার করতে পারেন:

ফিচার এখনও কাজ করে না

পরীক্ষামূলক রিলিজ হিসেবে, ক্লাউড-হোস্টেড মডেল বা Firebase AI Logic SDK-এর সব ক্ষমতা হাইব্রিড বা অন-ডিভাইস ইনফারেন্সের জন্য উপলভ্য নয়।

হাইব্রিড ইমপ্লিমেন্টেশনের জন্য ফিচার এখনও কাজ করে না

হাইব্রিড ইমপ্লিমেন্টেশনের (অন-ডিভাইস বা ক্লাউড ফলব্যাক কোনওটির মাধ্যমেই নয়) সাথে নিম্নলিখিত ফিচারগুলি ব্যবহার করা যাবে না:

  • Gemini Live API: দ্বি-দিকনির্দেশক রিয়েল-টাইম স্ট্রিমিং কাজ করে না।

  • সার্ভার প্রম্পট টেমপ্লেট: ম্যানেজ করা সার্ভার প্রম্পট টেমপ্লেট কাজ করে না।

  • টোকেন গণনা করা: টোকেন গণনার উপর নির্ভর করা উচিত নয় কারণ ক্লাউড-হোস্টেড এবং অন-ডিভাইস মডেলের মধ্যে গণনা আলাদা হবে, তাই কোনও স্বজ্ঞাত ফলব্যাক নেই।

অন-ডিভাইস ইনফারেন্সের জন্য ফিচার এখনও কাজ করে না

অন-ডিভাইস ইনফারেন্সের জন্য নিম্নলিখিত ফিচারগুলি এখনও কাজ করে না, তবে ক্লাউড-হোস্টেড মডেলের জন্য সেগুলি উপলভ্য।

  • ছবি, অডিও বা ভিডিওর মতো মিডিয়া তৈরি করা

  • ছবি, অডিও, ভিডিও ও ডকুমেন্টের (PDF) মাল্টিমোডাল ইনপুট থেকে টেক্সট জেনারেট করা

  • ৪০৯৬ টোকেন (বা প্রায় ৩০০০ ইংরেজি শব্দ) অতিক্রম করে এমন অনুরোধ পাঠানো

  • অন-ডিভাইস মডেলকে বিল্ট-ইন টুল প্রদান করা যাতে এটি উত্তর জেনারেট করতে পারে (যেমন কোড এক্সিকিউশন, URL কন্টেক্সট, Google Search-এর সাথে গ্রাউন্ডিং এবং Google Maps-এর সাথে গ্রাউন্ডিং)। তবে, ফাংশন কলিং ব্যবহার করে আপনার নিজস্ব টুল প্রদান করার সুবিধা উপলভ্য।

  • Firebase কনসোলে AI মনিটরিং, অন-ডিভাইস ইনফারেন্সের (অন-ডিভাইস লগ সহ) জন্য কোনও ডেটা দেখায় না। তবে, ক্লাউড-হোস্টেড মডেল ব্যবহার করে এমন যেকোনও ইনফারেন্স Firebase AI Logic-এর মাধ্যমে অন্যান্য ইনফারেন্সের মতোই মনিটর করা যেতে পারে।

অতিরিক্ত সীমাবদ্ধতা

উপরে উল্লেখ করা বিষয় ছাড়াও, অন-ডিভাইস ইনফারেন্সের নিম্নলিখিত সীমাবদ্ধতা আছে:

  • আপনার অ্যাপের ব্যবহারকারীকে অবশ্যই Apple Intelligence চালু থাকা ডিভাইস ব্যবহার করতে হবে।

  • আপনার অ্যাপ ফোরগ্রাউন্ডে থাকলে তবেই অন-ডিভাইস ইনফারেন্স রান করতে পারবে।


Firebase AI Logic-এর সাথে আপনার অভিজ্ঞতা সম্পর্কে মতামত জানান