Sử dụng Cấu hình từ xa trong môi trường máy chủ

Firebase Remote Config hiện hỗ trợ cấu hình phía máy chủ bằng cách sử dụng SDK Node.js dành cho quản trị viên của Firebase phiên bản 12.1.0 trở lên. Chức năng mới này hỗ trợ bạn để quản lý động hành vi và cấu hình của phía máy chủ bằng Remote Config. Điều này bao gồm cả việc triển khai mô hình không máy chủ như Cloud Functions.

Không giống như các SDK ứng dụng Firebase tìm nạp cấu hình dành riêng cho ứng dụng lấy từ mẫu Remote Config, phía máy chủ SDK Remote Config tải xuống mẫu Remote Config hoàn chỉnh từ Firebase. Sau đó, máy chủ của bạn có thể đánh giá mẫu với mỗi yêu cầu đến và sử dụng logic riêng để phân phát phản hồi tuỳ chỉnh với độ trễ rất thấp.

Với Remote Config phía máy chủ, bạn có thể:

  • Xác định tham số cấu hình cho các ứng dụng chạy trên hoặc được truy cập thông qua máy chủ của bạn, cho phép các trường hợp sử dụng như định cấu hình từ xa Các thông số, câu lệnh và công cụ tích hợp khác của mô hình AI để đảm bảo Khoá API luôn an toàn.
  • Linh động điều chỉnh các tham số để phản hồi các thay đổi trong môi trường hoặc các thay đổi khác về ứng dụng, chẳng hạn như cập nhật các tham số LLM và điểm cuối của mô hình.
  • Kiểm soát chi phí bằng cách cập nhật từ xa các API mà máy chủ của bạn gọi.
  • Tạo cấu hình tuỳ chỉnh một cách nhanh chóng cho các khách hàng truy cập vào máy chủ.
  • Ghi lại những khách hàng đã nhận được giá trị thông số và sử dụng giá trị này trong Cloud Functions trong hệ thống xác minh quyền.

Bạn có thể triển khai Remote Config phía máy chủ trên Cloud Run, Cloud Functions hoặc môi trường máy chủ tự lưu trữ.

Trước khi bắt đầu

Làm theo hướng dẫn trong bài viết Thêm SDK quản trị Firebase vào máy chủ để tạo một Firebase dự án, thiết lập tài khoản dịch vụ và thêm SDK Node.js dành cho quản trị viên Firebase vào máy chủ của bạn.

Bước 1: Khởi chạy SDK Node.js dành cho quản trị viên của Firebase và uỷ quyền cho các yêu cầu API

Khi bạn khởi chạy SDK dành cho quản trị viên mà không có tham số, SDK này sẽ sử dụng Google Mặc định của ứng dụng Thông tin xác thực và đọc các tuỳ chọn trong môi trường GOOGLE_APPLICATION_CREDENTIALS biến. Ví dụ: để khởi chạy SDK và thêm Remote Config:

import { initializeApp } from "firebase-admin/app";
import { getRemoteConfig } from "firebase-admin/remote-config";

// Initialize Firebase
const firebaseApp = initializeApp();

Bước 2: Xác định giá trị thông số mặc định cho ứng dụng máy chủ

Xác định các biến trong ứng dụng mà bạn muốn cập nhật một cách linh động Remote Config. Sau đó, hãy xem xét những biến nào phải được đặt theo mặc định trong ứng dụng của bạn và giá trị mặc định của chúng. Điều này đảm bảo rằng ứng dụng của bạn chạy thành công ngay cả khi kết nối với Máy chủ phụ trợ Remote Config bị gián đoạn.

Ví dụ: nếu đang viết một ứng dụng máy chủ quản lý hàm AI tạo sinh, bạn có thể đặt tên mô hình mặc định, lời nhắc mở đầu và cấu hình AI tạo sinh, như sau:

Tên thông số Nội dung mô tả Loại Giá trị mặc định
model_name Tên API mô hình Chuỗi gemini-1.5-pro
preamble_prompt Lời nhắc thêm vào đầu truy vấn Chuỗi I'm a developer who wants to learn about Firebase and you are a helpful assistant who knows everything there is to know about Firebase!
generation_config Thông số cần gửi đến mô hình JSON {"stopSequences": ["I hope this helps"], "temperature": 0.7, "maxOutputTokens": 512, "topP": 0.1, "topK": 20}

Bước 3: Định cấu hình ứng dụng máy chủ

Sau khi xác định các thông số mà bạn muốn sử dụng cùng Remote Config, định cấu hình ứng dụng của bạn để đặt giá trị mặc định, tìm nạp mẫu Remote Config dành riêng cho máy chủ và sử dụng các giá trị của mẫu đó. Chiến lược phát hành đĩa đơn các bước sau đây mô tả cách định cấu hình ứng dụng Node.js.

  1. Truy cập và tải mẫu.

    // Initialize server-side Remote Config
    const rc = getRemoteConfig(firebaseApp);
    const template = rc.initServerTemplate();
    
    // Load Remote Config
    await template.load();
    

    Nếu đang sử dụng Node.js trong Cloud Functions, bạn có thể sử dụng getServerTemplate không đồng bộ để tìm nạp và tải mẫu ở một bước duy nhất:

    // Initialize server-side Remote Config
    const rc = getRemoteConfig(firebaseApp);
    const template = await rc.getServerTemplate();
    
  2. Để đảm bảo ứng dụng của bạn chạy thành công ngay cả khi kết nối với máy chủ phụ trợ Remote Config bị gián đoạn, hãy thêm giá trị mặc định cho từng tham số vào ứng dụng. Để thực hiện việc này, hãy thêm defaultConfig vào bên trong hàm mẫu initServerTemplate hoặc getServerTemplate:

    const template = rc.initServerTemplate({
      defaultConfig: {
        model_name: "gemini-pro",
        generation_config: '{"stopSequences": [], "temperature": 0.7, "maxOutputTokens": 512, "topP": 0.1, "topK": 20}',
        preamble_prompt: "I'm a developer who wants to learn about Firebase and you are a helpful assistant who knows everything there is to know about Firebase!"
      },
    });
    
    // Load Remote Config
    await template.load();
    
  3. Sau khi mẫu tải, hãy sử dụng template.evaluate() để nhập các thông số và các giá trị từ mẫu:

    // Add template parameters to config
    const config = template.evaluate();
    
  4. Không bắt buộc, nếu bạn đặt percentage các điều kiện trong mẫu Remote Config, hãy xác định và cung cấp randomizationId mà bạn muốn sử dụng để đánh giá(các) điều kiện của mình trong template.evaluate().

    Ví dụ: bạn có thể đặt mã cài đặt Firebase làm randomizationId hoặc mã nhận dạng người dùng để đảm bảo rằng mỗi người dùng liên hệ với máy chủ của bạn đều được thêm vào nhóm được tạo ngẫu nhiên thích hợp. Chiến lược phát hành đĩa đơn sau đây là một ví dụ cơ bản, nhưng bạn có thể định cấu hình máy chủ để tạo randomizationIds khác cho ứng dụng khác nhau để đảm bảo người dùng nhận được các giá trị nhất quán từ Remote Config dựa trên tư cách thành viên của họ theo điều kiện tỷ lệ phần trăm nhóm.

    Để biết thêm thông tin về các điều kiện tỷ lệ phần trăm, hãy xem phần Người dùng trong chế độ ngẫu nhiên phần trăm.

    // Set the randomizationId
    const randomizationId = "2ac93c28-c459-4760-963d-a3974ec26c04"
    
    // Add template parameters to `config`. Evaluates the
    // template and returns the parameter value assigned to
    // the group assigned to the {randomizationId}.
    const config = template.evaluate({
      randomizationId
    });
    
  5. Tiếp theo, hãy trích xuất các giá trị tham số bạn cần từ hằng số cấu hình. Sử dụng getters để truyền các giá trị từ Remote Config sang định dạng dự kiến. Các loại sau được hỗ trợ:

    • Boolean: getBoolean
    • Đồ vật: getValue
    • Số: getNumber
    • Chuỗi: getString

    Ví dụ: nếu bạn đang triển khai Vertex AI trên máy chủ và muốn thay đổi mô hình và tham số mô hình, bạn có thể muốn định cấu hình các tham số cho model_namegenerationConfig. Dưới đây là ví dụ về cách bạn có thể truy cập vào các giá trị của Remote Config:

    // Replace defaults with values from Remote Config.
    const generationConfig =
      JSON.parse(
        config.getString('generation_config'));
    
    const is_ai_enabled = config.getBool('is_ai_enabled');
    
    const model = config.getString('model_name');
    
    // Generates a prompt comprised of the Remote Config
    // parameter and prepends it to the user prompt
    const prompt = `${config.getString('preamble_prompt')} ${req.query.prompt}`;
    
  6. Nếu máy chủ của bạn hoạt động trong thời gian dài, trái ngược với môi trường không máy chủ, sử dụng setInterval để tải lại mẫu theo định kỳ nhằm đảm bảo rằng bạn sẽ tìm nạp định kỳ mẫu mới nhất từ Máy chủ Remote Config.

Bước 4: Đặt giá trị thông số dành riêng cho máy chủ trong Remote Config

Tiếp theo, hãy tạo mẫu Remote Config của máy chủ rồi định cấu hình các thông số và để sử dụng trong ứng dụng của bạn.

Cách tạo mẫu Remote Config dành riêng cho máy chủ:

  1. Mở trang tham số Remote Config của bảng điều khiển Firebase và trong bộ chọn Ứng dụng/Máy chủ, hãy chọn Máy chủ.
  2. Xác định các tham số Remote Config có cùng tên và kiểu dữ liệu với các tham số mà bạn đã xác định trong ứng dụng của mình và cung cấp các giá trị. Các các giá trị sẽ ghi đè defaultConfig mà bạn đặt trong phần Định cấu hình máy chủ khi tìm nạp và đánh giá mẫu và chỉ định các giá trị này cho các biến của bạn.
  3. (Không bắt buộc) Bạn có thể đặt điều kiện tỷ lệ phần trăm để áp dụng liên tục giá trị cho một mẫu thực thể ngẫu nhiên. Để biết thêm thông tin về tỷ lệ phần trăm điều kiện, xem Người dùng trong ngẫu nhiên phần trăm.
  4. Khi bạn thêm xong thông số, hãy nhấp vào Xuất bản thay đổi.
  5. Xem lại các thay đổi rồi nhấp lại vào Xuất bản các thay đổi.

Bước 5: Triển khai bằng Cloud Functions hoặc Cloud Run

Nếu ứng dụng máy chủ của bạn có kích thước nhỏ và chạy theo sự kiện, bạn nên cân nhắc triển khai mã bằng Cloud Functions. Ví dụ: giả sử bạn có một ứng dụng chứa hội thoại của nhân vật dựa trên công nghệ AI tạo sinh API (ví dụ: Google AI hoặc Vertex AI). Trong trường hợp này, bạn có thể lưu trữ logic phân phát LLM (mô hình ngôn ngữ lớn) trong một chức năng mà ứng dụng của bạn gọi theo yêu cầu.

Nếu ứng dụng của bạn dự định sẽ chạy trong thời gian dài (ví dụ: ứng dụng web có nội dung), bạn có thể cân nhắc sử dụng Cloud Run. Để triển khai ứng dụng máy chủ bằng Cloud Run, hãy làm theo hướng dẫn tại bài viết Bắt đầu nhanh: Triển khai dịch vụ Node.js cho Cloud Run.

Để biết thêm thông tin về các trường hợp sử dụng tốt nhất cho Cloud Run và Cloud Functions, tham khảo Cloud Functions so với Cloud Run: trường hợp sử dụng một trên khác.