Mengupdate Vertex AI di aplikasi Firebase secara dinamis dengan Firebase Remote Config

Saat memanggil Gemini API dari aplikasi Anda menggunakan SDK Vertex AI in Firebase, permintaan Anda akan berisi sejumlah parameter yang mengontrol respons AI generatif. Ini biasanya mencakup nama model, konfigurasi pembuatan model (token maksimum, suhu, dll.), setelan keamanan, petunjuk sistem, dan data perintah.

Pada umumnya, Anda dapat mengubahnya sesuai permintaan atau sesuai kebutuhan untuk sejumlah skenario:

  • Update model AI generatif Anda tanpa merilis aplikasi baru. Anda dapat mengupgrade ke versi model yang lebih baru dan stabil sebelum versi sebelumnya dihentikan, beralih ke model dengan biaya lebih rendah atau performa lebih tinggi berdasarkan kebutuhan dan atribut pengguna, atau men-deploy model terbaru dan terbaik secara kondisional ke segmen pengguna tertentu (seperti penguji beta).
  • Tetapkan lokasi tempat Anda mengakses model agar lebih dekat dengan pengguna.
  • Lakukan pengujian A/B terhadap berbagai petunjuk sistem dan perintah, lalu luncurkan nilai eksperimen yang menang kepada pengguna Anda secara perlahan.
  • Gunakan flag fitur untuk mengekspos atau menyembunyikan fitur AI generatif dengan cepat di aplikasi Anda.

Firebase Remote Config melakukan semua hal ini dan lainnya, yang memungkinkan Anda memperbarui parameter value sesuai kebutuhan dan secara kondisional untuk instance aplikasi yang cocok dengan karakteristik yang Anda tetapkan di konsol Firebase, tanpa merilis versi baru aplikasi Anda.

Panduan solusi ini menyediakan kasus penggunaan khusus yang direkomendasikan dan menjelaskan cara menambahkan Remote Config ke aplikasi AI generatif Anda.

Langsung ke penerapan kode

Mengapa menggunakan Firebase Remote Config dengan aplikasi Anda?

Firebase Remote Config memungkinkan Anda menyesuaikan perilaku aplikasi secara dinamis tanpa memerlukan update aplikasi. Hal ini sangat berguna untuk aplikasi yang menggunakan AI generatif, yang sangat memerlukan iterasi dan penyesuaian yang cepat.

Kasus penggunaan penting untuk Remote Config dengan aplikasi AI generatif

Sebaiknya gunakan Remote Config dengan Vertex AI in Firebase untuk kasus penggunaan penting berikut:

  • Upgrade ke versi model terbaru tanpa update aplikasi: Gunakan parameter Remote Config untuk mengubah nama model sesuai kebutuhan, sehingga Anda dapat mengupgrade ke versi terbaru model Gemini pilihan Anda segera setelah tersedia.
  • Memperbarui petunjuk sistem dan setelan keamanan tanpa update aplikasi: Simpan petunjuk sistem dan setelan keamanan di dalam parameter Remote Config untuk memastikan bahwa Anda dapat mengubahnya sesuai permintaan jika menemukan masalah setelah deployment.
  • Mengurangi risiko dan menerapkan keamanan AI: Gunakan Peluncuran Remote Config untuk merilis perubahan AI generatif secara aman dan bertahap kepada pengguna iOS dan Android.

Kasus penggunaan lanjutan dan yang direkomendasikan untuk Remote Config dengan aplikasi AI generatif

Setelah melengkapi aplikasi dengan Remote Config dan Google Analytics, Anda dapat mempelajari kasus penggunaan lanjutan:

  • Menetapkan lokasi berdasarkan lokasi klien: Gunakan kondisi Remote Config untuk menetapkan lokasi model berdasarkan lokasi yang terdeteksi klien.
  • Bereksperimen dengan berbagai model: Uji dan beralih dengan cepat antara berbagai model AI generatif, atau bahkan deploy model yang berbeda ke segmen pengguna yang berbeda, untuk menemukan model yang paling sesuai dengan kasus penggunaan tertentu.
  • Mengoptimalkan performa model: Menyesuaikan parameter model, seperti perintah sistem, token output maksimum, suhu, dan setelan lainnya.

  • Gunakan petunjuk, perintah, dan konfigurasi model sistem yang berbeda berdasarkan atribut klien: Saat menggunakan Remote Config dengan Google Analytics, Anda dapat membuat kondisi berdasarkan atribut klien atau audiens kustom dan menetapkan parameter yang berbeda berdasarkan atribut ini.

    Misalnya, jika Anda menggunakan AI generatif untuk memberikan dukungan teknis di aplikasi, sebaiknya tetapkan petunjuk sistem khusus untuk platform aplikasi guna memastikan petunjuk yang akurat diberikan kepada pengguna platform Android, iOS, dan web.

  • Mempersonalisasi pengalaman untuk setiap pengguna: Gunakan personalisasi Remote Config untuk menentukan setelan AI generatif yang optimal secara otomatis untuk setiap pengguna.

  • Mengontrol biaya: Menyesuaikan model AI generatif mana yang dipanggil, frekuensi penggunaannya, dan mengonfigurasi nilai token output maksimum secara dinamis berdasarkan audiens pengguna untuk mengurangi biaya yang tidak perlu.

  • Optimalkan pengalaman dan hasil aplikasi: Gunakan A/B Testing dengan Remote Config dengan aplikasi iOS, Android, dan Flutter untuk menguji perubahan pada parameter AI generatif di berbagai segmen pengguna untuk melihat pengaruhnya terhadap metrik utama seperti retensi dan pendapatan.

Dengan melengkapi aplikasi AI generatif Anda dengan Firebase Remote Config, Anda dapat mem-build aplikasi yang didukung AI yang fleksibel, aman, dan hemat biaya sekaligus menciptakan pengalaman yang menyenangkan bagi pengguna.

Menambahkan Firebase Remote Config ke aplikasi Anda

Dalam panduan solusi ini, Anda akan menggunakan Firebase Remote Config untuk mengupdate parameter secara dinamis di aplikasi Android yang menggunakan Vertex AI in Firebase SDK. Anda akan mempelajari cara:

  • Ambil dan aktifkan parameter seperti nama model dan petunjuk sistem dari Firebase Remote Config.
  • Perbarui panggilan Gemini API untuk menggunakan parameter yang diambil secara dinamis, sehingga Anda dapat beralih antarmodel atau mengubah petunjuk sistem tanpa update aplikasi.
  • Kontrol parameter dari jarak jauh, dengan menyesuaikan perilaku dan kemampuan model sesuai kebutuhan.

Prasyarat

Panduan ini mengasumsikan bahwa Anda sudah terbiasa menggunakan JavaScript untuk mengembangkan aplikasi web. Panduan ini tidak bergantung pada framework. Sebelum memulai, pastikan Anda telah melakukan hal berikut:

  • Selesaikan Panduan memulai untuk Vertex AI in Firebase SDK. Pastikan Anda telah melakukan semua hal berikut:

    1. Siapkan project Firebase baru atau yang sudah ada, termasuk menggunakan paket harga Blaze dan mengaktifkan API yang diperlukan.
    2. Hubungkan aplikasi Anda ke Firebase, termasuk mendaftarkan aplikasi dan menambahkan konfigurasi Firebase ke aplikasi Anda.
    3. Tambahkan SDK dan lakukan inisialisasi layanan Vertex AI dan model generatif di aplikasi Anda.

  • Aktifkan Google Analytics dalam project Anda dan tambahkan SDK-nya ke aplikasi Anda (diperlukan untuk penargetan bersyarat, seperti menetapkan lokasi layanan dan model berdasarkan lokasi perangkat klien).

Langkah 1: Tetapkan parameter value di Firebase console

Buat template Remote Config klien serta konfigurasi parameter dan nilai yang akan diambil dan digunakan dalam aplikasi.

  1. Buka konsol Firebase, lalu dari menu navigasi, luaskan Run dan pilih Remote Config.
  2. Pastikan Client dipilih dari pemilih Client/Server di bagian atas halaman Remote Config.
    • Jika ini pertama kalinya Anda menggunakan template klien Remote Config, klik Create Configuration. Panel Create your first parameter akan muncul.
    • Jika ini bukan pertama kalinya Anda menggunakan template Remote Config, klik Add parameter.

  3. Tentukan parameter Remote Config berikut:

    Nama parameter Deskripsi Jenis Nilai default
    model_name Nama model. Untuk daftar terbaru nama model yang akan digunakan dalam kode Anda, lihat Nama model yang tersedia. String gemini-1.5-flash
    system_instructions Petunjuk sistem seperti "preamble" yang Anda tambahkan sebelum model diekspos ke petunjuk lebih lanjut dari pengguna akhir untuk memengaruhi perilaku model, berdasarkan kebutuhan dan kasus penggunaan tertentu. String You are a helpful assistant who knows everything there is to know about Firebase!
    prompt Perintah default yang akan digunakan dengan fitur AI generatif Anda. String I am a developer who wants to know more about Firebase!
    vertex_location Secara opsional, kontrol lokasi untuk menjalankan layanan Vertex AI dan mengakses model. Anda dapat menetapkan kondisi untuk mengonfigurasi opsi ini berdasarkan lokasi klien yang terdeteksi oleh Google Analytics. String us-central1

  4. Setelah menambahkan parameter, klik Publish changes. Jika ini bukan template Remote Config baru, tinjau perubahan dan klik Publikasikan perubahan lagi.

Langkah 2: Tambahkan dan lakukan inisialisasi Remote Config SDK

Menambahkan dan melakukan inisialisasi Remote Config SDK:

  1. Buka kode Anda di editor teks dan impor Remote Config:

    import { getRemoteConfig } from 'firebase/remote-config';

  2. Di dalam fungsi utama dan setelah aplikasi Firebase diinisialisasi untuk Vertex AI in Firebase SDK, lakukan inisialisasi Remote Config:

      // Initialize Remote Config and get a reference to the service
  const remoteConfig = getRemoteConfig(app);

  3. Tetapkan interval pengambilan minimum. Dalam contoh ini, interval pengambilan default adalah 3.600 detik, tetapi sebaiknya tetapkan interval pengambilan minimum yang relatif rendah di dalam kode selama pengembangan.

    remoteConfig.settings.minimumFetchIntervalMillis = 3600000;

Langkah 3: Menetapkan parameter value dalam aplikasi

Anda harus menetapkan parameter value default dalam aplikasi di objek Remote Config, sehingga aplikasi Anda berfungsi sebelum terhubung ke backend Remote Config, jika akses jaringan klien terganggu, dan/atau jika tidak ada value yang dikonfigurasi di backend.

Dalam contoh ini, Anda menetapkan nilai default secara manual untuk nama model, petunjuk sistem, perintah pengguna, dan lokasi Vertex AI:

// Set default Remote Config parameter values
remoteConfig.defaultConfig = {
  model_name: 'gemini-1.5-flash',
  system_instructions:
    'You are a helpful assistant who knows everything there is to know about Firebase!',
  prompt: 'I am a developer who wants to know more about Firebase!',
  vertex_location: 'us-central1',
};

Langkah 4: Mengambil dan mengaktifkan value

  1. Tambahkan getValue dan fetchAndActivate ke impor Anda:

    import { getValue, fetchAndActivate } from 'firebase/remote-config';

  2. Setelah kode yang Anda tambahkan untuk mengonfigurasi nilai Remote Config default, ambil dan aktifkan konfigurasi, lalu tetapkan nilai ke konstanta modelName, systemInstructions, prompt, dan vertexLocation.

    // Fetch and activate Remote Config.
try {
  await fetchAndActivate(remoteConfig);
} catch(err) {
  console.error('Remote Config fetch failed', err);
}

console.log('Remote Config fetched.');

// Assign Remote Config values.
const modelName = getValue(remoteConfig, 'model_name').asString();
const systemInstructions = getValue(remoteConfig, 'system_instructions').asString();
const prompt = getValue(remoteConfig, 'prompt').asString();
const vertexLocation = getValue(remoteConfig, 'vertex_location').asString();

Langkah 5: Perbarui panggilan Vertex AI untuk menggunakan nilai Remote Config

Setelah Remote Config dikonfigurasi sepenuhnya, perbarui kode Anda untuk mengganti nilai hard code dengan nilai yang bersumber dari Remote Config. Misalnya, jika Anda menggunakan contoh yang digunakan di Memulai Gemini API menggunakan Vertex AI di Firebase SDK, Anda akan memperbaruinya sebagai berikut:

// Initialize FirebaseApp
const firebaseApp = initializeApp(firebaseConfig);

// Initialize the Vertex AI service
// Optionally specify a location in which to run the service and access the model
const vertexAI = getVertexAI(firebaseApp, { location: vertexLocation });

// Initialize the generative model with a model that supports your use case
// Gemini 1.5 models are versatile and can be used with all API capabilities
const model = getGenerativeModel(vertexAI, {
  model: modelName,
  systemInstruction: systemInstruction
});

// Wrap in an async function so you can use await
async function run() {
  // Provide a prompt that contains text
  const userPrompt = prompt;

  // To generate text output, call generateContent with the text input
  const result = await model.generateContent(userPrompt);

  const response = result.response;
  const text = response.text();
  console.log(text);
}

Langkah 6: Jalankan aplikasi

Jalankan aplikasi dan pastikan aplikasi berfungsi. Buat perubahan pada konfigurasi dari halaman Remote Config di Firebase console, publikasikan perubahan, dan verifikasi hasilnya.

Langkah berikutnya