使用 Firebase Remote Config 动态更新您的 Vertex AI in Firebase 应用

使用 Vertex AI in Firebase SDK 从应用调用 Gemini API 时,您的请求包含用于控制生成式 AI 回答的多个参数。这些数据通常包括模型名称、模型生成配置(令牌数上限、温度等)、安全设置、系统说明和提示数据。

在大多数情况下,您需要按需或根据需要针对许多场景进行更改:

  • 无需发布新应用即可更新生成式 AI 模型。您可以在旧版弃用之前升级到较新的稳定版模型,根据用户的需求和属性降级到更低成本或更高性能的模型,或者有条件地向特定细分用户群(例如 Beta 版测试人员)部署最新的模型。
  • 设置您访问模型的位置,以便模型更靠近您的用户。
  • 对不同的系统说明和提示进行 A/B 测试,然后逐步向用户推广效果最佳的实验值。
  • 使用功能标志在应用中快速公开或隐藏生成式 AI 功能。

Firebase Remote Config 可执行上述所有操作,还可让您根据需要更新参数值,并有条件地针对与您在 Firebase 控制台中设置的特征匹配的应用实例更新参数值,而无需发布应用的新版本。

本解决方案指南提供了具体的推荐用例,并介绍了如何将 Remote Config 添加到生成式 AI 应用。

跳转到代码实现

为什么要在应用中使用 Firebase Remote Config

借助 Firebase Remote Config,您可以动态调整应用的行为,而无需更新应用。这对于使用生成式 AI 的应用来说尤为强大,因为生成式 AI 的快速迭代和微调至关重要。

Remote Config 与生成式 AI 应用的必备用例

我们建议将 Remote ConfigVertex AI in Firebase 搭配使用,以实现以下基本用例:

  • 升级到最新的模型版本,而无需更新应用:根据需要使用 Remote Config 参数更改模型名称,以便在首选 Gemini 模型的最新版本可用时,尽快升级到该模型。
  • 更新系统说明和安全设置,无需更新应用:将系统说明和安全设置存储在 Remote Config 参数中,以确保您在部署后发现问题时可以按需更改这些内容。
  • 降低风险并强制执行 AI 安全措施:使用 Remote Config 发布功能安全、逐步地向 iOS 和 Android 用户发布生成式 AI 变更。

Remote Config 与生成式 AI 应用的推荐高级用例

使用 Remote ConfigGoogle Analytics 对应用进行插桩后,您可以探索高级用例:

  • 根据客户端位置设置位置:使用 Remote Config 条件根据客户端的检测到的位置设置模型的位置
  • 试验不同的模型:快速测试和切换各种生成式 AI 模型,甚至为不同的细分用户群部署不同的模型,以找到最适合您的具体使用场景的模型。
  • 优化模型性能:微调模型参数,例如系统提示、输出令牌数上限、温度和其他设置。
  • 根据客户端属性使用不同的系统说明、提示和模型配置:将 Remote ConfigGoogle Analytics 搭配使用时,您可以根据客户端属性或自定义受众群体创建条件,并根据这些属性设置不同的参数。

    例如,如果您在应用中使用生成式 AI 提供技术支持,则可能需要设置特定于应用平台的系统说明,以确保向 Android、iOS 和 Web 平台用户提供准确的说明。

  • 为每位用户提供个性化体验:使用 Remote Config 个性化功能自动为每位用户确定最佳生成式 AI 设置。

  • 控制费用:远程调整调用哪些生成式 AI 模型及其使用频率,并根据用户受众群体动态配置最大输出令牌值,以降低不必要的费用。

  • 优化应用体验和成效:将 A/B TestingRemote Config 搭配使用,在 iOS、Android 和 Flutter 应用中测试对生成式 AI 参数所做的更改,了解这些更改对留存率和收入等关键指标有何影响。

通过使用 Firebase Remote Config 对生成式 AI 应用进行插桩,您可以构建灵活、安全且经济高效的 AI 赋能的应用,同时为用户打造愉悦的体验。

Firebase Remote Config 添加到您的应用

在本解决方案指南中,您将使用 Firebase Remote Config 在使用 Vertex AI in Firebase SDK 的 Android 应用中动态更新参数。您将学习如何:

  • Firebase Remote Config 提取并激活模型名称和系统说明等参数。
  • 更新 Gemini API 调用以使用动态检索的参数,让您可以在不同模型之间切换或修改系统指令,而无需更新应用。
  • 远程控制参数,根据需要调整模型行为和功能。

前提条件

本指南假定您熟悉如何使用 JavaScript 开发 Web 应用。本指南独立于框架。在开始之前,请确保您已完成以下操作:

  • 完成 Vertex AI in Firebase SDK 入门指南。请确保您已完成以下所有操作:

    1. 设置新的或现有的 Firebase 项目,包括使用 Blaze 定价方案以及启用所需的 API。
    2. 将您的应用关联到 Firebase,包括注册应用并将 Firebase 配置添加到应用。
    3. 添加 SDK,并在应用中初始化 Vertex AI 服务和生成式模型。
  • 在项目中启用 Google Analytics,并将其 SDK 添加到您的应用中(进行条件定位时是必需的,例如根据客户端设备的位置设置服务和模型的位置)。

第 1 步:在 Firebase 控制台中设置参数值

创建客户端 Remote Config 模板,并配置要提取并在应用中使用的参数和值。

  1. 打开 Firebase 控制台,从导航菜单中展开 Run,然后选择 Remote Config
  2. 确保从 Remote Config 页面顶部的客户端/服务器选择器中选择客户端
    • 如果这是您第一次使用 Remote Config 客户端模板,请点击创建配置。系统随即会显示创建您的首个参数窗格。
    • 如果您不是首次使用 Remote Config 模板,请点击添加参数
  3. 定义以下 Remote Config 参数:

    参数名称 说明 类型 默认值
    model_name 模型名称。如需查看要在代码中使用的型号名称的最新列表,请参阅可用的型号名称 字符串 gemini-1.5-flash
    system_instructions 系统说明类似于您在模型接触到最终用户的任何进一步说明之前添加的“序言”,以便根据特定需求和使用情形来影响模型行为。 字符串 You are a helpful assistant who knows everything there is to know about Firebase!
    prompt 与生成式 AI 功能搭配使用的默认提示。 字符串 I am a developer who wants to know more about Firebase!
    vertex_location (可选)控制用于运行 Vertex AI 服务并访问模型的位置。您可以设置条件,以便根据 Google Analytics 检测到的客户端位置来配置此选项。 字符串 us-central1
  4. 添加完参数后,点击发布更改。如果这不是新的 Remote Config 模板,请查看更改,然后再次点击发布更改

第 2 步:添加并初始化 Remote Config SDK

添加并初始化 Remote Config SDK:

  1. 在文本编辑器中打开您的代码,然后导入 Remote Config

    import { getRemoteConfig } from 'firebase/remote-config';
    
  2. 在主函数内,在为 Vertex AI in Firebase SDK 初始化 Firebase 应用后,初始化 Remote Config

      // Initialize Remote Config and get a reference to the service
      const remoteConfig = getRemoteConfig(app);
    
  3. 设置最小提取间隔。在此示例中,默认提取间隔为 3600 秒,但我们建议您在开发期间在代码中设置相对较短的最小提取间隔。

    remoteConfig.settings.minimumFetchIntervalMillis = 3600000;
    

第 3 步:设置应用内参数值

您应在 Remote Config 对象中设置应用内默认参数值,以便在客户端网络访问中断且/或者后端未配置任何值的情况下,应用在连接到 Remote Config 后端之前能够正常运行。

在此示例中,您需要手动为模型名称、系统说明、用户提示和 Vertex AI 位置设置默认值:

// Set default Remote Config parameter values
remoteConfig.defaultConfig = {
  model_name: 'gemini-1.5-flash',
  system_instructions:
    'You are a helpful assistant who knows everything there is to know about Firebase!',
  prompt: 'I am a developer who wants to know more about Firebase!',
  vertex_location: 'us-central1',
};

第 4 步:提取并激活值

  1. 向导入添加 getValuefetchAndActivate

    import { getValue, fetchAndActivate } from 'firebase/remote-config';
    
  2. 在您添加的用于配置默认 Remote Config 值的代码运行后,提取并激活配置,然后为 modelNamesystemInstructionspromptvertexLocation 常量分配值。

    // Fetch and activate Remote Config.
    try {
      await fetchAndActivate(remoteConfig);
    } catch(err) {
      console.error('Remote Config fetch failed', err);
    }
    
    console.log('Remote Config fetched.');
    
    // Assign Remote Config values.
    const modelName = getValue(remoteConfig, 'model_name').asString();
    const systemInstructions = getValue(remoteConfig, 'system_instructions').asString();
    const prompt = getValue(remoteConfig, 'prompt').asString();
    const vertexLocation = getValue(remoteConfig, 'vertex_location').asString();
    

第 5 步:更新 Vertex AI 调用以使用 Remote Config

现在,Remote Config 已完全配置完毕,请更新代码,将硬编码值替换为来自 Remote Config 的值。例如,如果您使用的是使用 Vertex AI in Firebase SDK 开始使用 Gemini API 中使用的示例,则需要按如下方式对其进行更新:

// Initialize FirebaseApp
const firebaseApp = initializeApp(firebaseConfig);

// Initialize the Vertex AI service
// Optionally specify a location in which to run the service and access the model
const vertexAI = getVertexAI(firebaseApp, { location: vertexLocation });

// Initialize the generative model with a model that supports your use case
// Gemini 1.5 models are versatile and can be used with all API capabilities
const model = getGenerativeModel(vertexAI, {
  model: modelName,
  systemInstruction: systemInstruction
});

// Wrap in an async function so you can use await
async function run() {
  // Provide a prompt that contains text
  const userPrompt = prompt;

  // To generate text output, call generateContent with the text input
  const result = await model.generateContent(userPrompt);

  const response = result.response;
  const text = response.text();
  console.log(text);
}

第 6 步:运行应用

运行应用并验证它是否正常运行。在 Firebase 控制台中的 Remote Config 页面中更改配置,发布更改,然后验证结果。

后续步骤