使用 Vertex AI in Firebase SDK 從應用程式呼叫 Gemini API 時,您的要求會包含多個參數,用於控制生成式 AI 回應。這些通常包括模型名稱、模型生成設定 (最大符記、溫度等)、安全設定、系統指示和提示資料。
在大多數情況下,您都會根據需求或在多種情況下變更這些設定:
- 無須發布新版應用程式,即可更新生成式 AI 模型。您可以在舊版停用前升級至較新的穩定模型版本,或根據使用者的需要和屬性,改用成本較低或效能較高的模型,也可以有條件地將最新的最佳模型部署至特定使用者區隔 (例如 Beta 版測試人員)。
- 設定模型的存取位置,讓模型更靠近使用者。
- 進行 A/B 測試,針對不同的系統指示和提示進行測試,然後逐步向使用者推出最佳實驗值。
- 使用功能旗標,快速在應用程式中顯示或隱藏生成式 AI 功能。
Firebase Remote Config 可執行上述所有操作,以及更多功能,讓您視需要更新參數值,並有條件地針對符合您在 Firebase 控制台中設定的特性的應用程式執行個體執行此操作,而無須發布新版應用程式。
本解決方案指南提供特定建議用途,並說明如何將 Remote Config 新增至生成式 AI 應用程式。
為什麼要將 Firebase Remote Config 與應用程式搭配使用?
Firebase Remote Config 可讓您動態調整應用程式行為,無須更新應用程式。對於使用生成式 AI 的應用程式而言,這項功能特別實用,因為這類應用程式需要快速迭代和精細調整。
Remote Config 與生成式 AI 應用程式的重要用途
建議您在下列重要用途中搭配使用 Remote Config 和 Vertex AI in Firebase:
- 無須更新應用程式,即可升級至最新模型版本:使用 Remote Config 參數視需要變更模型名稱,這樣一來,您就能在可用時立即升級至所需的最新 Gemini 模型版本。
- 在不更新應用程式的情況下更新系統操作說明和安全性設定:將系統操作說明和安全性設定儲存在 Remote Config 參數中,確保如果在部署後發現問題,可以視需要變更。
- 降低風險並確保 AI 安全性:使用Remote Config Rollouts,安全地逐步向 iOS 和 Android 使用者發布生成式 AI 變更。
Remote Config 搭配生成式 AI 應用程式的進階和建議用途
使用 Remote Config 和 Google Analytics 檢測應用程式後,您可以探索進階用途:
- 根據用戶端位置設定位置:使用 Remote Config 條件,根據用戶端偵測到的所在位置設定模型的位置。
- 嘗試不同的模型:快速測試各種生成式 AI 模型,並在不同使用者區隔中切換模型,找出最適合您特定用途的模型。
- 改善模型效能:微調模型參數,例如系統提示、輸出符記上限、溫度和其他設定。
根據使用者屬性使用不同的系統指示、提示和模型設定:當您將 Remote Config 與 Google Analytics 搭配使用時,可以根據使用者屬性或自訂目標對象建立條件,並根據這些屬性設定不同的參數。
舉例來說,如果您使用生成式 AI 在應用程式中提供技術支援,建議您設定應用程式平台專屬的系統操作說明,確保 Android、iOS 和網頁平台使用者都能獲得正確的操作說明。
為每位使用者提供個人化體驗:使用 Remote Config 個人化功能,自動為每位使用者決定最佳生成式 AI 設定。
控管費用:從遠端調整呼叫的生成式 AI 模型、使用頻率,並根據使用者目標對象動態設定輸出符記值上限,減少不必要的費用。
改善應用程式體驗和成效:在 iOS、Android 和 Flutter 應用程式中使用 A/B Testing 搭配 Remote Config,測試生成式 AI 參數在不同使用者區隔中的變更,瞭解這些變更對留存率和收益等重要指標的影響。
使用 Firebase Remote Config 檢測生成式 AI 應用程式,您就能打造彈性、安全且經濟實惠的 AI 輔助應用程式,同時為使用者打造令人滿意的體驗。
在應用程式中新增 Firebase Remote Config
在本解決方案指南中,您將使用 Firebase Remote Config 來動態更新使用 Vertex AI in Firebase SDK 的 Android 應用程式中的參數。您將學習下列內容:
- 擷取並啟用 Firebase Remote Config 中的參數,例如模型名稱和系統指示。
- 更新 Gemini API 呼叫,以便使用動態擷取的參數,讓您在不同模型之間切換,或在不更新應用程式的情況下修改系統指示。
- 從遠端控制參數,視需要調整模型行為和功能。
事前準備
本指南假設您已熟悉使用 JavaScript 開發網路應用程式。本指南不受架構限制。開始之前,請確認您已完成下列事項:
完成 Vertex AI in Firebase SDK 入門指南。請確認您已完成下列所有步驟:
- 設定新的或現有的 Firebase 專案,包括使用 Blaze 定價方案,並啟用必要的 API。
- 將應用程式連結至 Firebase,包括註冊應用程式以及將 Firebase 設定新增至應用程式。
- 新增 SDK,並在應用程式中初始化 Vertex AI 服務和生成式模型。
在專案中啟用 Google Analytics,並將 SDK 新增至應用程式 (如要進行條件式指定,例如根據用戶端裝置的位置設定服務和模型的位置),此為必要步驟。
步驟 1:在 Firebase 控制台中設定參數值
建立用戶端 Remote Config 範本,並設定要在應用程式中擷取及使用的參數和值。
- 開啟 Firebase 控制台,從導覽選單中展開「Run」(執行),然後選取「Remote Config」。
- 確認您已在 Remote Config 頁面頂端的「Client/Server」選取器中選取「Client」。
- 如果這是您第一次使用 Remote Config 用戶端範本,請按一下「建立設定」。「Create your first parameter」窗格隨即顯示。
- 如果這不是您第一次使用 Remote Config 範本,請按一下「Add 參數」。
定義下列 Remote Config 參數:
參數名稱 說明 類型 預設值 model_name
模型名稱。如需在程式碼中使用的最新模型名稱清單,請參閱「可用的模型名稱」。 字串 gemini-1.5-flash
system_instructions
系統指示就像是「前言」,您可以在模型公開給使用者之前,先加入這些指示,根據特定需求和用途影響模型行為。 字串 You are a helpful assistant who knows everything there is to know about Firebase!
prompt
與生成式 AI 功能搭配使用的預設提示。 字串 I am a developer who wants to know more about Firebase!
vertex_location
您可以視需要控管位置,以便執行 Vertex AI 服務並存取模型。您可以根據「Google Analytics」偵測到的用戶端位置,設定條件來設定這個選項。 字串 us-central1
參數新增完畢後,按一下「發布變更」。如果這不是新的 Remote Config 範本,請查看變更內容,然後再次按一下「Publish changes」。
步驟 2:新增及初始化 Remote Config SDK
新增並初始化 Remote Config SDK:
在文字編輯器中開啟程式碼,然後匯入 Remote Config:
import { getRemoteConfig } from 'firebase/remote-config';
在主要函式中,在 Vertex AI in Firebase SDK 為 Firebase 應用程式初始化後,請初始化 Remote Config:
// Initialize Remote Config and get a reference to the service const remoteConfig = getRemoteConfig(app);
設定擷取間隔的最小值。在這個範例中,預設的擷取間隔為 3600 秒,但建議您在開發期間,在程式碼中設定相對較低的擷取間隔下限。
remoteConfig.settings.minimumFetchIntervalMillis = 3600000;
步驟 3:設定應用程式內參數值
您應在 Remote Config 物件中設定應用程式內預設參數值,使應用程式在連線至 Remote Config 後端、用戶端網路存取權中斷及/或後端未設定值的情況下正常運作。
在這個範例中,您會手動設定型號名稱、系統操作說明、使用者提示和 Vertex AI 位置的預設值:
// Set default Remote Config parameter values
remoteConfig.defaultConfig = {
model_name: 'gemini-1.5-flash',
system_instructions:
'You are a helpful assistant who knows everything there is to know about Firebase!',
prompt: 'I am a developer who wants to know more about Firebase!',
vertex_location: 'us-central1',
};
步驟 4:擷取並啟用值
將
getValue
和fetchAndActivate
新增至匯入項目:import { getValue, fetchAndActivate } from 'firebase/remote-config';
在您新增的程式碼設定預設 Remote Config 值後,請擷取並啟用設定,然後將值指派給
modelName
、systemInstructions
、prompt
和vertexLocation
常數。// Fetch and activate Remote Config. try { await fetchAndActivate(remoteConfig); } catch(err) { console.error('Remote Config fetch failed', err); } console.log('Remote Config fetched.'); // Assign Remote Config values. const modelName = getValue(remoteConfig, 'model_name').asString(); const systemInstructions = getValue(remoteConfig, 'system_instructions').asString(); const prompt = getValue(remoteConfig, 'prompt').asString(); const vertexLocation = getValue(remoteConfig, 'vertex_location').asString();
步驟 5:更新 Vertex AI 呼叫,以便使用 Remote Config 值
Remote Config 已完成設定,請更新您的程式碼,將硬式編碼值替換為來自 Remote Config 的值。舉例來說,如果您使用的是「開始使用 Firebase SDK 中的 Vertex AI 版 Gemini API」一文中的範例,則應按照下列方式更新:
// Initialize FirebaseApp
const firebaseApp = initializeApp(firebaseConfig);
// Initialize the Vertex AI service
// Optionally specify a location in which to run the service and access the model
const vertexAI = getVertexAI(firebaseApp, { location: vertexLocation });
// Initialize the generative model with a model that supports your use case
// Gemini 1.5 models are versatile and can be used with all API capabilities
const model = getGenerativeModel(vertexAI, {
model: modelName,
systemInstruction: systemInstruction
});
// Wrap in an async function so you can use await
async function run() {
// Provide a prompt that contains text
const userPrompt = prompt;
// To generate text output, call generateContent with the text input
const result = await model.generateContent(userPrompt);
const response = result.response;
const text = response.text();
console.log(text);
}
步驟 6:執行應用程式
執行應用程式,確認應用程式是否正常運作。在 Firebase 控制台的「Remote Config」頁面中變更設定、發布變更,以及驗證結果。
後續步驟
- 進一步瞭解 Remote Config。
- 在程式碼中加入 Google Analytics 以啟用指定目標。