Web uygulamalarındaki karma deneyimler için yapılandırma seçenekleri

Bu sayfada aşağıdaki yapılandırma seçenekleri açıklanmaktadır:

• Çıkarım modu ayarlama

• Varsayılan bulutta barındırılan yedek modeli geçersiz kılma

• Yanıtlara müdahale etmek için model yapılandırmasını kullanma

JSON ve enum'lar dahil olmak üzere yapılandırılmış çıkış da oluşturabilirsiniz.

Başlamadan önce

Karma deneyimler oluşturmaya yönelik başlangıç kılavuzunu tamamladığınızdan emin olun.

Çıkarım modu ayarlama

Başlangıç kılavuzundaki örneklerde PREFER_ON_DEVICE modu kullanılır ancak bu, mevcut dört çıkarım modundan yalnızca biridir.

• PREFER_ON_DEVICE: Cihaz üzerinde model varsa onu kullanın. Aksi takdirde, bulutta barındırılan modele geri dönün.

  const model = getGenerativeModel(ai, { mode: InferenceMode.PREFER_ON_DEVICE });
  

• ONLY_ON_DEVICE: Kullanılabiliyorsa cihaz üzerinde modeli kullanın; aksi takdirde istisna oluşturun.

  const model = getGenerativeModel(ai, { mode: InferenceMode.ONLY_ON_DEVICE });
  

• PREFER_IN_CLOUD: Varsa bulutta barındırılan modeli kullanın. Aksi takdirde cihaz üzerinde çalışan modele geçin.

  const model = getGenerativeModel(ai, { mode: InferenceMode.PREFER_IN_CLOUD });
  

• ONLY_IN_CLOUD: Varsa bulutta barındırılan modeli kullanın. Aksi takdirde istisna oluşturun.

  const model = getGenerativeModel(ai, { mode: InferenceMode.ONLY_IN_CLOUD });
  

Cihaz üzerinde veya bulutta çıkarım kullanılıp kullanılmadığını belirleme

PREFER_ON_DEVICE veya PREFER_IN_CLOUD çıkarım modlarını kullanıyorsanız belirli istekler için hangi modun kullanıldığını bilmek faydalı olabilir. Bu bilgiler, her yanıtın inferenceSource özelliği tarafından sağlanır (JS SDK 12.5.0 sürümünden itibaren kullanılabilir).

Bu özelliğe eriştiğinizde döndürülen değer ON_DEVICE veya IN_CLOUD olur.

// ...

console.log('You used: ' + result.response.inferenceSource);

console.log(result.response.text());

Varsayılan yedek modeli geçersiz kılma

Varsayılan bulutta barındırılan model gemini-3.5-flash-lite (JS SDK v13.0.0'dan itibaren).

Bu model, PREFER_ON_DEVICE modunu kullandığınızda yedek bulutta barındırılan modeldir. ONLY_IN_CLOUD veya PREFER_IN_CLOUD modunu kullandığınızda da varsayılan modeldir.

Alternatif bir varsayılan bulutta barındırılan model belirtmek için inCloudParams yapılandırma seçeneğini kullanabilirsiniz.

const model = getGenerativeModel(ai, {
  mode: InferenceMode.INFERENCE_MODE,
  inCloudParams: {
    model: "GEMINI_MODEL_NAME"
  }
});

Desteklenen tüm Gemini modellerinin adlarını bulun.

Yanıtları kontrol etmek için model yapılandırmasını kullanma

Bir modele gönderdiğiniz her istekte, modelin nasıl yanıt üreteceğini kontrol etmek için bir model yapılandırması gönderebilirsiniz. Bulutta barındırılan modeller ve cihaz üzerinde çalışan modeller farklı yapılandırma seçenekleri sunar.

Yapılandırma, örnek kullanım süresi boyunca korunur. Farklı bir yapılandırma kullanmak istiyorsanız bu yapılandırmayla yeni bir GenerativeModel örneği oluşturun.

Bulutta barındırılan modeli yapılandırma

Bulutta barındırılan bir Gemini modelini yapılandırmak için inCloudParams seçeneğini kullanın. Kullanılabilir parametreler hakkında bilgi edinin.

const model = getGenerativeModel(ai, {
  mode: InferenceMode.INFERENCE_MODE,
  inCloudParams: {
    model: "GEMINI_MODEL_NAME",
    generationConfig: {
      maxOutputTokens: 200,
      stopSequences: ["red"]
    }
  }
});

Cihaz üzerindeki modeli yapılandırma

Cihaz üzerindeki bir model kullanılarak yapılan çıkarımlarda Chrome'daki istem API'sinin kullanıldığını unutmayın.

Cihaz üzerinde model yapılandırmak için onDeviceParams seçeneğini kullanın. Kullanılabilir parametreler hakkında bilgi edinin.

const model = getGenerativeModel(ai, {
  mode: InferenceMode.INFERENCE_MODE,
  onDeviceParams: {
    createOptions: {
      expectedInputs: [{ type: "text", languages: ["en"] }],
      expectedOutputs: [{ type: "text", languages: ["en"] }],
      initialPrompts: [
        { role: "system", content: [{ type: "text", value: "You are a helpful and concise assistant." }] }
      ]
    }
  }
});

Firebase AI Logic ile ilgili deneyiminiz hakkında geri bildirimde bulunun