Android অ্যাপে হাইব্রিড অভিজ্ঞতার জন্য কনফিগারেশন বিকল্প


এই পৃষ্ঠায় হাইব্রিড অভিজ্ঞতার জন্য নিম্নলিখিত কনফিগারেশন বিকল্প বর্ণনা করা হয়েছে:

এছাড়াও, আপনি স্ট্রাকচার্ড আউটপুট (যেমন JSON ও enum) জেনারেট করতে পারবেন।

আপনি হাইব্রিড অভিজ্ঞতা তৈরি করার জন্য শুরু করার নির্দেশিকা সম্পূর্ণ করেছেন কিনা তা নিশ্চিত করুন।

ইনফারেন্স মোড সেট করুন

শুরু করার নির্দেশিকায় দেওয়া উদাহরণ থেকে বোঝা যায় যে কীভাবে প্রথমে অন-ডিভাইস ইনফারেন্স প্রয়োগ করার চেষ্টা করতে হয় এবং তারপরে ক্লাউড-হোস্টেড মডেলে (PREFER_ON_DEVICE মোড) ফিরে যেতে হয়। তবে, এটি উপলভ্য ইনফারেন্স মোড-এর মধ্যে একটি মাত্র।

এখানে উপলভ্য ইনফারেন্স মোডগুলি দেওয়া হল:

  • PREFER_ON_DEVICE: অন-ডিভাইস মডেল উপলভ্য থাকলে এবং অনুরোধের ধরনকে সাপোর্ট করলে সেটি ব্যবহার করার চেষ্টা করুন। অন্যথায়, ডিভাইসে একটি সমস্যার লগ তৈরি করুন এবং তারপর অটোমেটিক ক্লাউড-হোস্টেড মডেলে ফিরে যান।

    Kotlin

    val config = OnDeviceConfig(mode = InferenceMode.PREFER_ON_DEVICE)
    

    Java

    InferenceMode mode = InferenceMode.PREFER_ON_DEVICE;
    OnDeviceConfig config = new OnDeviceConfig(mode);
    
  • ONLY_ON_DEVICE: অন-ডিভাইস মডেল উপলভ্য থাকলে এবং অনুরোধের ধরনকে সাপোর্ট করলে সেটি ব্যবহার করার চেষ্টা করুন। অন্যথায়, এক্সেপশন যোগ করুন।

    Kotlin

    val config = OnDeviceConfig(mode = InferenceMode.ONLY_ON_DEVICE)
    

    Java

    InferenceMode mode = InferenceMode.ONLY_ON_DEVICE;
    OnDeviceConfig config = new OnDeviceConfig(mode);
    
  • PREFER_IN_CLOUD: ডিভাইস অনলাইন থাকলে এবং মডেল উপলভ্য হলে, ক্লাউড-হোস্টেড মডেল ব্যবহার করার চেষ্টা করুন। ডিভাইস অফলাইন থাকলে, অন-ডিভাইস মডেলে ফিরে যান। অন্য সব ব্যর্থতার ক্ষেত্রে, ব্যতিক্রম থ্রো করুন।

    Kotlin

    val config = OnDeviceConfig(mode = InferenceMode.PREFER_IN_CLOUD)
    

    Java

    InferenceMode mode = InferenceMode.PREFER_IN_CLOUD;
    OnDeviceConfig config = new OnDeviceConfig(mode);
    
  • ONLY_IN_CLOUD: ডিভাইস অনলাইন থাকলে এবং মডেল উপলভ্য হলে, ক্লাউড-হোস্টেড মডেল ব্যবহার করার চেষ্টা করুন। অন্যথায়, এক্সেপশন যোগ করুন।

    Kotlin

    val config = OnDeviceConfig(mode = InferenceMode.ONLY_IN_CLOUD)
    

    Java

    InferenceMode mode = InferenceMode.ONLY_IN_CLOUD;
    OnDeviceConfig config = new OnDeviceConfig(mode);
    

অন-ডিভাইস নাকি ইন-ক্লাউড ইনফারেন্স ব্যবহার করা হয়েছে তা নির্ধারণ করুন

আপনার ইনফারেন্স মোড PREFER_ON_DEVICE বা PREFER_IN_CLOUD হলে, প্রদত্ত অনুরোধের জন্য কোন মোড ব্যবহার করা হয়েছে তা জানা সহায়ক হতে পারে। এই তথ্য প্রতিটি উত্তরের inferenceSource প্রপার্টি দ্বারা প্রদান করা হয়।

আপনি এই প্রপার্টি অ্যাক্সেস করলে, রিটার্ন করা ভ্যালু হয় ON_DEVICE অথবা IN_CLOUD হবে।

Kotlin

// ...

print("You used: ${result.response.inferenceSource}")

print(result.response.text)

Java

// ...

System.out.println("You used: " + result.getResponse().getInferenceSource());

System.out.println(result.getResponse().getText());

ব্যবহার করার জন্য একটি মডেল নির্দিষ্ট করুন

এই পৃষ্ঠায় পরিষেবা প্রদানকারী-নির্দিষ্ট কন্টেন্ট ও কোড দেখতে আপনার Gemini API পরিষেবা প্রদানকারীর উপর ক্লিক করুন।

generativeModel ইনস্ট্যান্স তৈরি করার সময় আপনি ব্যবহার করার জন্য একটি মডেল নির্দিষ্ট করতে পারেন (Kotlin | Java).

  • ক্লাউড-হোস্টেড মডেল নির্দিষ্ট করুন:

    • আপনার ইনফারেন্স মোড PREFER_ON_DEVICE, PREFER_IN_CLOUD, অথবা ONLY_IN_CLOUD হলে, আপনাকে অবশ্যই ব্যবহারের জন্য ক্লাউড-হোস্টেড মডেল স্পষ্টভাবে উল্লেখ করতে হবে। SDK-তে কোনও ডিফল্ট ক্লাউড-হোস্টেড মডেল নেই।

    • ক্লাউড-হোস্ট করা কাজ করে এমন Gemini সব মডেলের নাম খুঁজুন।

  • অন-ডিভাইস মডেল নির্দিষ্ট করুন:

    • আপনার ইনফারেন্স মোড PREFER_ON_DEVICE, PREFER_IN_CLOUD, অথবা ONLY_ON_DEVICE হলে, আপনি onDeviceConfig-এ বিকল্প হিসেবে ব্যবহার করার জন্য অন-ডিভাইস মডেলের "বিভাগ" নির্দিষ্ট করতে পারবেন। বিভাগ হল রিলিজের পর্যায় ও পারফর্ম্যান্সের বৈশিষ্ট্যের সমন্বয়।

    • কাজ করে এমন বিভাগের ভ্যালু নিচে তালিকাভুক্ত করা হয়েছে।
      AICore অটোমেটিক অন-ডিভাইস মডেল বেছে নেয় যা নির্দিষ্ট বিভাগের শর্ত পূরণ করে এবং ডিভাইসে কাজ করে। যেমন, আপনি যদি PREVIEW উল্লেখ করেন এবং ডিভাইসটি Pixel 9 হয়, তাহলে Gemini Nano 4 Full [প্রিভিউ] (nano-v4-full) সম্ভবত অটোমেটিক বেছে নেওয়া হবে।

      • STABLE: লেটেস্ট স্টেবল অন-ডিভাইস মডেল।

        • সম্পূর্ণভাবে পরীক্ষা করা হয়েছে এবং গ্রাহকের ডিভাইসে উপলভ্য।

        • যেমন, Gemini Nano 3 (nano-v3) অথবা Gemini Nano 2 (nano-v2)।

        • কোনও OnDeviceModelOption উল্লেখ করা না থাকলে, অন-ডিভাইস মডেলের জন্য ডিফল্ট সেটিং।

      • PREVIEW: সম্পূর্ণ পারফর্ম্যান্স ক্ষমতা সহ লেটেস্ট প্রিভিউ অন-ডিভাইস মডেল।

        • আরও উন্নত যুক্তি প্রয়োগের ক্ষমতা ও জটিল টাস্কের জন্য ডিজাইন করা হয়েছে।

        • যেমন, Gemini Nano 4 Full [প্রিভিউ] (nano-v4-full, যা Gemma 4 E4B-এর উপর ভিত্তি করে তৈরি)।

      • PREVIEW_FAST: লেটেস্ট প্রিভিউ অন-ডিভাইস মডেল যা ফাস্ট।

        • সর্বাধিক স্পিড ও কম লেটেন্সির জন্য অপ্টিমাইজ করা হয়েছে।

        • যেমন, Gemini Nano 4 Fast [প্রিভিউ] (nano-v4-fast, যা Gemma 4 E2B-এর উপর ভিত্তি করে তৈরি)।

Kotlin

val model = Firebase.ai(backend = GenerativeBackend.googleAI())
    .generativeModel(
        // Specify a cloud-hosted model.
        // Required for `PREFER_ON_DEVICE`, `PREFER_IN_CLOUD`, and `ONLY_IN_CLOUD` inference modes.
        modelName = "CLOUD_MODEL_NAME",
        onDeviceConfig = OnDeviceConfig(
            mode = InferenceMode.INFERENCE_MODE,
            // (Optional) Specify an on-device model category.
            // AICore will auto-select an on-device model based on this category.
            // If not specified, AICore will auto-select the default stable on-device model.
            modelOption = OnDeviceModelOption.ON-DEVICE_MODEL_CATEGORY)
    )

Java

GenerativeModel ai = FirebaseAI.getInstance(GenerativeBackend.googleAI())
    .generativeModel(
        // Specify a cloud-hosted model.
        // Required for `PREFER_ON_DEVICE`, `PREFER_IN_CLOUD`, and `ONLY_IN_CLOUD` inference modes.
        "CLOUD_MODEL_NAME",
        /* config = */ null,
        /* safetySettings = */ null,
        /* tools = */ null,
        /* toolConfig = */ null,
        /* systemInstruction = */ null,
        /* requestOptions = */ new RequestOptions(),
        new OnDeviceConfig(
                /* mode = */ InferenceMode.INFERENCE_MODE,
                /* maxOutputTokens = */ null,
                /* temperature = */ null,
                /* topK = */ null,
                /* seed = */ null,
                /* candidateCount = */ 1,
                // (Optional) Specify an on-device model category.
                // AICore will auto-select an on-device model based on this category.
                // If not specified, AICore will auto-select the default stable on-device model.
                /* modelOption = */ OnDeviceModelOption.ON-DEVICE_MODEL_CATEGORY)
    );

GenerativeModelFutures model = GenerativeModelFutures.from(ai);

উত্তর কন্ট্রোল করতে মডেল কনফিগারেশন ব্যবহার করুন

এই পৃষ্ঠায় পরিষেবা প্রদানকারী-নির্দিষ্ট কন্টেন্ট ও কোড দেখতে আপনার Gemini API পরিষেবা প্রদানকারীর উপর ক্লিক করুন।

মডেলের কাছে করা প্রতিটি অনুরোধে, মডেল কীভাবে উত্তর জেনারেট করবে তা নিয়ন্ত্রণ করার জন্য আপনি মডেল কনফিগারেশন পাঠাতে পারেন। ক্লাউড-হোস্টেড মডেল এবং অন-ডিভাইস মডেলগুলি আলাদাভাবে কনফিগার করা হয় এবং বিভিন্ন কনফিগারেশন বিকল্প অফার করে:

  • ক্লাউড-হোস্টেড মডেল: generationConfig (Kotlin | Java) ব্যবহার করে কনফিগারেশন সেট করুন। উপলভ্য প্যারামিটার সম্পর্কে জানুন।

  • অন-ডিভাইস মডেল: onDeviceConfig (Kotlin | Java) ব্যবহার করে কনফিগারেশন সেট করুন। উপলভ্য প্যারামিটার সম্পর্কে জানুন (Kotlin | Java)।

ইনস্ট্যান্সের লাইফটাইমের জন্য কনফিগারেশন বজায় রাখা হয়। আপনি অন্য কোনও কনফিগারেশন ব্যবহার করতে চাইলে, সেই কনফিগারেশন দিয়ে নতুন GenerativeModel ইনস্ট্যান্স তৈরি করুন।

এখানে একটি উদাহরণ দেওয়া হল যা ক্লাউড-হোস্ট করা এবং অন-ডিভাইস মডেলের জন্য কনফিগারেশন সেট করে, যা PREFER_ON_DEVICE ইনফারেন্স মোড সেট করা থাকলে ব্যবহার করা যেতে পারে:

Kotlin

// Config for cloud-hosted model
val generationConfig = generationConfig {
    maxOutputTokens = 200
    stopSequences = listOf("red")
}

// Config for on-device model
val onDeviceConfig = OnDeviceConfig(
    mode = InferenceMode.PREFER_ON_DEVICE,
    maxOutputTokens = 200
)

val model = Firebase.ai(backend = GenerativeBackend.googleAI())
    .generativeModel(
        modelName = "CLOUD_MODEL_NAME",
        generationConfig = generationConfig,
        onDeviceConfig = onDeviceConfig
    )

Java

// Config for cloud-hosted model
GenerationConfig generationConfig = new GenerationConfig.Builder()
    .setMaxOutputTokens(200)
    .setStopSequences(List.of("red"))
    .build();

// Config for on-device model
OnDeviceConfig onDeviceConfig = new OnDeviceConfig(
    /* mode = */ InferenceMode.PREFER_ON_DEVICE,
    /* maxOutputTokens = */ 200,
    /* temperature = */ null,
    /* topK = */ null,
    /* seed = */ null,
    /* candidateCount = */ 1,
    /* modelOption = */ null
);

GenerativeModel ai = FirebaseAI.getInstance(GenerativeBackend.googleAI())
    .generativeModel(
        "CLOUD_MODEL_NAME",
        generationConfig,
        /* safetySettings = */ null,
        /* tools = */ null,
        /* toolConfig = */ null,
        /* systemInstruction = */ null,
        /* requestOptions = */ new RequestOptions(),
        onDeviceConfig
    );

GenerativeModelFutures model = GenerativeModelFutures.from(ai);


Firebase AI Logic-এর সাথে আপনার অভিজ্ঞতা সম্পর্কে মতামত দিন