Bu sayfada aşağıdaki yapılandırma seçenekleri açıklanmaktadır:
Yanıtları kontrol etmek için model yapılandırmasını kullanın (ör. sıcaklık)
Ayrıca, JSON ve enums dahil olmak üzere yapılandırılmış çıkış oluşturabilirsiniz.
Başlamadan önce
Karma deneyimler oluşturmaya başlama rehberini tamamladığınızdan emin olun.
Çıkarım modu ayarlama
Başlangıç kılavuzundaki örneklerde PREFER_ON_DEVICE modu kullanılmaktadır ancak bu, mevcut dört çıkarım modundan yalnızca biridir.
PREFER_ON_DEVICE: Cihaz üzerinde model varsa onu kullanın. Aksi takdirde, bulutta barındırılan modele geri dönün.const model = getGenerativeModel(ai, { mode: InferenceMode.PREFER_ON_DEVICE });ONLY_ON_DEVICE: Kullanılabiliyorsa cihaz üzerinde modeli kullanın; aksi takdirde istisna oluşturun.const model = getGenerativeModel(ai, { mode: InferenceMode.ONLY_ON_DEVICE });PREFER_IN_CLOUD: Bulutta barındırılan model varsa onu kullanın. Aksi takdirde cihaz üzerindeki modele geri dönün.const model = getGenerativeModel(ai, { mode: InferenceMode.PREFER_IN_CLOUD });ONLY_IN_CLOUD: Bulutta barındırılan model varsa onu kullanın; aksi takdirde istisna oluşturun.const model = getGenerativeModel(ai, { mode: InferenceMode.ONLY_IN_CLOUD });
Cihaz üzerinde veya bulutta çıkarım yapılıp yapılmadığını belirleme
PREFER_ON_DEVICE veya PREFER_IN_CLOUD çıkarım modlarını kullanıyorsanız belirli istekler için hangi modun kullanıldığını bilmek faydalı olabilir. Bu bilgiler, her yanıtın inferenceSource özelliği tarafından sağlanır (JS SDK v12.5.0'dan itibaren kullanılabilir).
Bu özelliğe eriştiğinizde döndürülen değer ON_DEVICE veya IN_CLOUD olur.
// ...
console.log('You used: ' + result.response.inferenceSource);
console.log(result.response.text());
Varsayılan yedek modeli geçersiz kılma
Varsayılan bulutta barındırılan model
gemini-2.5-flash-lite
Bu model, PREFER_ON_DEVICE modunu kullandığınızda yedek bulutta barındırılan modeldir. ONLY_IN_CLOUD veya PREFER_IN_CLOUD modunu kullandığınızda da varsayılan modeldir.
Alternatif bir varsayılan bulutta barındırılan model belirtmek için
inCloudParams
yapılandırma seçeneğini kullanabilirsiniz.
const model = getGenerativeModel(ai, {
mode: InferenceMode.INFERENCE_MODE,
inCloudParams: {
model: "GEMINI_MODEL_NAME"
}
});
Tüm desteklenen Gemini modellerinin model adlarını öğrenin.
Yanıtları kontrol etmek için model yapılandırmasını kullanma
Bir modele gönderdiğiniz her istekle birlikte, modelin nasıl yanıt oluşturacağını kontrol etmek için bir model yapılandırması gönderebilirsiniz. Bulutta barındırılan modeller ve cihaz üzerinde modeller farklı yapılandırma seçenekleri sunar.
Yapılandırma, örnek kullanım süresi boyunca korunur. Farklı bir yapılandırma kullanmak istiyorsanız bu yapılandırmayla yeni bir GenerativeModel örneği oluşturun.
Bulutta barındırılan modeli yapılandırma
Bulutta barındırılan bir Gemini modeli yapılandırmak için
inCloudParams
seçeneğini kullanın. Kullanılabilir parametreler hakkında bilgi edinin.
const model = getGenerativeModel(ai, {
mode: InferenceMode.INFERENCE_MODE,
inCloudParams: {
model: "GEMINI_MODEL_NAME"
temperature: 0.8,
topK: 10
}
});
Cihaz üzerindeki modeli yapılandırma
Cihaz üzerindeki bir model kullanılarak yapılan çıkarımlarda Chrome'daki istem API'sinin kullanıldığını unutmayın.
Cihaz üzerinde bir model yapılandırmak için
onDeviceParams
seçeneğini kullanın. Kullanılabilir parametreler hakkında bilgi edinin.
const model = getGenerativeModel(ai, {
mode: InferenceMode.INFERENCE_MODE,
onDeviceParams: {
createOptions: {
temperature: 0.8,
topK: 8
}
}
});
Firebase AI Logic ile ilgili deneyiminiz hakkında geri bildirim verme