Apple के ऐप्लिकेशन में हाइब्रिड अनुभवों के लिए कॉन्फ़िगरेशन के विकल्प

इस पेज पर, हाइब्रिड और उपयोगकर्ता के डिवाइस पर मोड के लिए, कॉन्फ़िगरेशन के इन विकल्पों के बारे में बताया गया है:

• "अनुमान वाला मोड" सेट करें.

• देखें कि उपयोगकर्ता के डिवाइस पर मॉडल उपलब्ध है या नहीं.

• यह तय करना कि ऑन-डिवाइस या इन-क्लाउड इन्फ़्रेंस का इस्तेमाल किया गया है या नहीं.

• जवाबों को कंट्रोल करने के लिए, मॉडल कॉन्फ़िगरेशन का इस्तेमाल करें. जैसे, तापमान.

पक्का करें कि आपने हाइब्रिड अनुभव बनाने के लिए शुरुआती निर्देश पूरा कर लिया हो.

"अनुमान वाला मोड" सेट करना

शुरुआती निर्देश में दिए गए उदाहरणों से पता चलता है कि पहले उपयोगकर्ता के डिवाइस पर मौजूद मॉडल से अनुमान पाने की कोशिश कैसे की जाती है. इसके बाद, क्लाउड पर होस्ट किए गए मॉडल का इस्तेमाल कैसे किया जाता है. यह उपलब्ध "अनुमान वाले मोड" में से सिर्फ़ एक है, जिसे लागू किया जा सकता है.

हाइब्रिड इन्फ़्रेंस

• उपयोगकर्ता के डिवाइस पर अनुमान लगाने की सुविधा को प्राथमिकता देना: primary को "सिस्टम" मॉडल और secondary को क्लाउड मॉडल पर सेट करें.

  अगर उपयोगकर्ता के डिवाइस पर मौजूद मॉडल उपलब्ध है और वह अनुरोध के टाइप के साथ काम करता है, तो उसका इस्तेमाल करने की कोशिश करें. ऐसा न होने पर, डिवाइस पर गड़बड़ी को लॉग करें. इसके बाद, क्लाउड पर होस्ट किए गए मॉडल पर अपने-आप वापस जाएं.

  // Imports + initialization of Gemini API backend service
  // ...
  
  // Initialize a cloud model that supports your use case
  let cloudModel = ai.geminiModel(name: "GEMINI_MODEL_NAME")
  // Initialize an on-device model that supports your use case
  let systemModel = FirebaseAI.SystemLanguageModel.default
  
  // Create a GenerativeModelSession with a hybrid model.
  // Provide your preferred model as `primary` and your fallback model as `secondary`
  // Attempt to use the on-device model; otherwise, fall back to the cloud-hosted model.
  let session = ai.generativeModelSession(
    model: .hybridModel(primary: systemModel, secondary: cloudModel)
  )
  

• क्लाउड पर मौजूद अनुमान को प्राथमिकता दें: primary को क्लाउड मॉडल पर और secondary को "सिस्टम" मॉडल पर सेट करें.

  अगर डिवाइस ऑनलाइन है और मॉडल उपलब्ध है, तो क्लाउड पर होस्ट किए गए मॉडल का इस्तेमाल करने की कोशिश करें. अगर डिवाइस ऑफ़लाइन है, तो उपयोगकर्ता के डिवाइस पर मौजूद मॉडल का इस्तेमाल करें. अन्य सभी मामलों में, throw an exception.

  // Imports + initialization of Gemini API backend service
  // ...
  
  // Initialize a cloud model that supports your use case
  let cloudModel = ai.geminiModel(name: "GEMINI_MODEL_NAME")
  // Initialize an on-device model that supports your use case
  let systemModel = FirebaseAI.SystemLanguageModel.default
  
  // Create a GenerativeModelSession with a hybrid model.
  // Provide your preferred model as `primary` and your fallback model as `secondary`
  // Attempt to use the cloud-hosted model; otherwise, fall back to the on-device model.
  let session = ai.generativeModelSession(
    model: .hybridModel(primary: cloudModel, secondary: systemModel)
  )
  

सिर्फ़ उपयोगकर्ता के डिवाइस पर या सिर्फ़ क्लाउड पर अनुमान लगाने की सुविधा

SDK टूल में सिर्फ़ एक model सेट किया जा सकता है. इसका मतलब है कि SDK टूल सिर्फ़ उपयोगकर्ता के डिवाइस पर या इन-क्लाउड अनुमान लगाने की कोशिश करेगा. साथ ही, इस्तेमाल के इस उदाहरण के लिए, HybridModel न बनाएं. हालांकि, हाइब्रिड अनुभव के लिए, आपको HybridModel बनाना होगा. साथ ही, primary और secondary, दोनों मॉडल सेट करने होंगे. इसके बारे में ऊपर बताया गया है.

• सिर्फ़ डिवाइस पर अनुमान लगाने की सुविधा: model को "सिस्टम" मॉडल पर सेट करें. इस्तेमाल के इस उदाहरण के लिए, HybridModel नहीं बनाया जाता.

  अगर उपयोगकर्ता के डिवाइस पर मौजूद मॉडल उपलब्ध है और वह अनुरोध के टाइप के साथ काम करता है, तो उसका इस्तेमाल करने की कोशिश करें. अगर ऐसा नहीं है, तो कोई अपवाद दिखाएं.

  // Imports + initialization of Gemini API backend service
  // ...
  
  // Initialize an on-device model that supports your use case
  let systemModel = FirebaseAI.SystemLanguageModel.default
  
  // Create a GenerativeModelSession with the on-device model.
  let session = ai.generativeModelSession(
    model: systemModel
  )
  

• सिर्फ़ क्लाउड-आधारित अनुमान: model को क्लाउड मॉडल पर सेट करें. इस्तेमाल के इस उदाहरण के लिए, HybridModel नहीं बनाया जाता.

  अगर डिवाइस ऑनलाइन है और मॉडल उपलब्ध है, तो क्लाउड पर होस्ट किए गए मॉडल का इस्तेमाल करने की कोशिश करें. अगर ऐसा नहीं है, तो कोई अपवाद दिखाएं.

  // Imports + initialization of Gemini API backend service
  // ...
  
  // Initialize a cloud model that supports your use case
  let cloudModel = ai.geminiModel(name: "GEMINI_MODEL_NAME")
  
  // Create a GenerativeModelSession with a cloud model.
  let session = ai.generativeModelSession(
    model: cloudModel
  )
  

यह देखना कि उपयोगकर्ता के डिवाइस पर मॉडल उपलब्ध है या नहीं

उपयोगकर्ता के डिवाइस पर मॉडल की उपलब्धता की मैन्युअल जांच सिर्फ़ तब ज़रूरी है, जब आपको उपयोगकर्ता को यह जानकारी दिखानी हो या असली उपयोगकर्ताओं से उपयोगकर्ता के डिवाइस पर मॉडल डाउनलोड करने का अनुरोध करना हो. अगर उपयोगकर्ता के डिवाइस पर मौजूद मॉडल उपलब्ध नहीं है और आपने primary को उपयोगकर्ता के डिवाइस पर मौजूद मॉडल और secondary को क्लाउड मॉडल पर सेट किया है, तो एसडीके अपने-आप क्लाउड पर होस्ट किए गए मॉडल का इस्तेमाल करेगा.

मैन्युअल तरीके से यह देखने के लिए कि उपयोगकर्ता के डिवाइस पर मौजूद मॉडल वाकई इस्तेमाल किया जा सकता है या नहीं, isAvailable प्रॉपर्टी की जांच करें:

if FirebaseAI.SystemLanguageModel.default.isAvailable {
  // The on-device model is ready to use.
} else {
  // The on-device model is unavailable.
}

उपयोगकर्ता के डिवाइस पर मौजूद मॉडल की उपलब्धता से जुड़ी खास वजहों का पता लगाने के लिए, availability प्रॉपर्टी की जांच करें:

switch FirebaseAI.SystemLanguageModel.default.availability {
case .available:
  // The on-device model is ready to use.
  break
case .unavailable(.deviceNotEligible):
  // This device does not support Apple Intelligence.
  break
case .unavailable(.appleIntelligenceNotEnabled):
  // The user has not enabled Apple Intelligence in Settings.
  break
case .unavailable(.modelNotReady):
  // The model is still being downloaded.
  break
case let .unavailable(reason):
  // The model is unavailable due to the specified `reason`.
  break
}

यह तय करना कि उपयोगकर्ता के डिवाइस पर या क्लाउड में अनुमान का इस्तेमाल किया गया था या नहीं

अगर HybridModel का इस्तेमाल किया जाता है और primary और secondary, दोनों मॉडल सेट किए जाते हैं, तो यह जानना मददगार हो सकता है कि किसी अनुरोध के लिए किस मॉडल का इस्तेमाल किया गया था. यह जानकारी, हर जवाब में rawResponse की modelVersion प्रॉपर्टी से मिलती है.

इस प्रॉपर्टी को ऐक्सेस करने पर, इनमें से कोई एक वैल्यू दिखेगी:

• इस्तेमाल किया गया क्लाउड-होस्टेड मॉडल: मॉडल का नाम, जैसे कि gemini-3.1-flash-lite
• इस्तेमाल किया गया उपयोगकर्ता के डिवाइस पर मॉडल: apple-foundation-models-system-language-model

// let response = try await session.respond(to: ...

print("You used: \(response.rawResponse.modelVersion)")

print(response.content)

जवाबों को कंट्रोल करने के लिए, मॉडल कॉन्फ़िगरेशन का इस्तेमाल करना

किसी मॉडल को किए जाने वाले हर अनुरोध में, मॉडल कॉन्फ़िगरेशन भेजा जा सकता है. इससे यह कंट्रोल किया जा सकता है कि मॉडल जवाब कैसे जनरेट करे. क्लाउड पर होस्ट किए गए मॉडल और उपयोगकर्ता के डिवाइस पर मौजूद मॉडल, कॉन्फ़िगरेशन के अलग-अलग विकल्प देते हैं (क्लाउड बनाम उपयोगकर्ता के डिवाइस पर पैरामीटर).

• क्लाउड पर होस्ट किए गए मॉडल: इनका कॉन्फ़िगरेशन GenerationConfig में सेट करें.
• उपयोगकर्ता के डिवाइस पर मौजूद मॉडल: इनका कॉन्फ़िगरेशन FirebaseAI.GenerationOptions में सेट करें.

इन विकल्पों को मॉडल के हर अनुरोध के लिए कॉन्फ़िगर किया जाता है.

यहां एक उदाहरण दिया गया है, जिसमें हाइब्रिड अनुमान के लिए, क्लाउड पर होस्ट किए गए और उपयोगकर्ता के डिवाइस पर मौजूद मॉडल के कॉन्फ़िगरेशन सेट किए गए हैं:

// ...

let response = try await session.respond(
  to: "Why is the sky blue?",
  options: .hybrid(
    // Config for cloud-hosted model
    gemini: GenerationConfig(
      temperature: 0.8,
      topP: 0.9,
      thinkingConfig: ThinkingConfig(thinkingLevel: .high)
    ),
    // Config for on-device model
    foundationModels: FirebaseAI.GenerationOptions(
      sampling: .random(probabilityThreshold: 0.9),
      temperature: 0.8
    )
  )
)

// ...

Firebase AI Logic के साथ अपने अनुभव के बारे में सुझाव/राय देना या शिकायत करना