Crea esperimenti di messaggistica in-app con test A/B

Quando ti rivolgi ai tuoi utenti o avvii una nuova campagna di marketing, vuoi assicurarti di fare la cosa giusta. I test A/B possono aiutarti a trovare la formulazione e la presentazione ottimali testando le varianti dei messaggi su porzioni selezionate della tua base utenti. Che il tuo obiettivo sia migliorare la fidelizzazione o la conversione su un'offerta, i test A/B possono eseguire analisi statistiche per determinare se una variante di un messaggio ha un rendimento migliore rispetto alla base di riferimento per l'obiettivo selezionato.

Per eseguire test A/B sulle varianti delle funzionalità con una base di riferimento:

  1. Crea l'esperimento.
  2. Convalida l'esperimento su un dispositivo di test.
  3. Gestisci l'esperimento.

Crea un esperimento

Un esperimento che utilizza Firebase In-App Messaging ti consente di valutare più varianti di un singolo messaggio in-app.

  1. Accedi alla Firebase console e verifica che Google Analytics sia attivato nel tuo progetto in modo che l'esperimento abbia accesso ai dati di Analytics.

    Se non hai attivato Google Analytics durante la creazione del progetto, puoi farlo nella scheda Integrazioni, a cui puoi accedere utilizzando > Impostazioni progetto nella console Firebase.

  2. Nella sezione DevOps e coinvolgimento del menu di navigazione della Firebase console, fai clic su A/B Testing.

  3. Fai clic su Crea esperimento e poi seleziona In-App Messaging quando ti viene chiesto il servizio con cui vuoi eseguire l'esperimento.

  4. In alternativa, nel menu di navigazione della console Firebase, espandi Coinvolgi e poi fai clic su In-App Messaging. Poi fai clic su Nuovo esperimento.

  5. Inserisci un Nome e una Descrizione facoltativa per l'esperimento e fai clic su Avanti.

  6. Compila i campi Targeting, scegliendo prima l'app che utilizza l'esperimento. Puoi anche scegliere come target un sottoinsieme dei tuoi utenti per la partecipazione all'esperimento scegliendo opzioni che includono quanto segue:

    • Versione: una o più versioni della tua app
    • Pubblico di destinazione: Analytics segmenti di pubblico utilizzati per scegliere come target gli utenti che potrebbero essere inclusi nell'esperimento
    • Proprietà utente: una o più proprietà utente Analytics per selezionare gli utenti che potrebbero essere inclusi nell'esperimento
    • Paese/regione: uno o più paesi o regioni per selezionare gli utenti che potrebbero essere inclusi nell'esperimento
    • Lingua del dispositivo: una o più lingue e impostazioni internazionali utilizzate per selezionare gli utenti che potrebbero essere inclusi nell'esperimento
    • Prima apertura: scegli come target gli utenti in base alla prima volta che hanno aperto la tua app
    • Ultimo coinvolgimento con l'app: scegli come target gli utenti in base all'ultima volta che hanno interagito con la tua app
  7. Imposta la Percentuale di utenti target:seleziona la percentuale della base utenti della tua app corrispondente ai criteri impostati in Utenti target che vuoi dividere equamente tra la base di riferimento e una o più varianti dell'esperimento. Può essere qualsiasi percentuale compresa tra 0,01% e 100%. Le percentuali vengono riassegnate in modo casuale agli utenti per ogni esperimento, inclusi gli esperimenti duplicati.

  8. Nella sezione Varianti, configura un messaggio in-app di base da inviare al gruppo di base utilizzando l'interfaccia di progettazione dei messaggi che utilizzi per una normale campagna di messaggi in-app.

  9. Per aggiungere una variante all'esperimento, fai clic su Aggiungi variante. Per impostazione predefinita, gli esperimenti hanno una base di riferimento e una variante.

  10. (Facoltativo) Inserisci un nome più descrittivo per ogni variante.

  11. (Facoltativo) Nella parte superiore della sezione Varianti, fai clic sul pulsante Confronta varianti per confrontare una o più varianti dei messaggi affiancate al messaggio di base.

  12. Definisci una metrica dell'obiettivo da utilizzare per valutare le varianti dell'esperimento insieme a eventuali metriche aggiuntive che vuoi utilizzare dall'elenco. Queste metriche includono obiettivi integrati (coinvolgimento, acquisti, entrate, fidelizzazione e così via), Analytics eventi di conversione e altri Analytics eventi.

  13. Configura la pianificazione dell'esperimento:

    • Imposta una data di Inizio e una data di Fine per l'esperimento.
    • Imposta la modalità di attivazione dei messaggi in-app in tutte le varianti.
  14. Fai clic su Rivedi per salvare l'esperimento.

Sono consentiti fino a 300 esperimenti per progetto, di cui fino a 24 in esecuzione e il resto in versione bozza o completati.

Convalida l'esperimento su un dispositivo di test

Per ogni installazione di Firebase, puoi recuperare il token di autenticazione dell'installazione associato. Puoi utilizzare questo token per testare varianti specifiche dell'esperimento su un dispositivo di test con l'app installata. Per convalidare l'esperimento su un dispositivo di test:

  1. Recupera il token di autenticazione dell'installazione nel seguente modo:

    Swift

    do {
      let result = try await Installations.installations()
        .authTokenForcingRefresh(true)
      print("Installation auth token: \(result.authToken)")
    } catch {
      print("Error fetching token: \(error)")
    }

    Objective-C

    [[FIRInstallations installations] authTokenForcingRefresh:true
                                                   completion:^(FIRInstallationsAuthTokenResult *result, NSError *error) {
      if (error != nil) {
        NSLog(@"Error fetching Installation token %@", error);
        return;
      }
      NSLog(@"Installation auth token: %@", [result authToken]);
    }];

    Java

    FirebaseInstallations.getInstance().getToken(/* forceRefresh */true)
            .addOnCompleteListener(new OnCompleteListener<InstallationTokenResult>() {
        @Override
        public void onComplete(@NonNull Task<InstallationTokenResult> task) {
            if (task.isSuccessful() && task.getResult() != null) {
                Log.d("Installations", "Installation auth token: " + task.getResult().getToken());
            } else {
                Log.e("Installations", "Unable to get Installation auth token");
            }
        }
    });

    Kotlin

    val forceRefresh = true
    FirebaseInstallations.getInstance().getToken(forceRefresh)
        .addOnCompleteListener { task ->
            if (task.isSuccessful) {
                Log.d("Installations", "Installation auth token: " + task.result?.token)
            } else {
                Log.e("Installations", "Unable to get Installation auth token")
            }
        }

    Web

          import { getInstallations, getToken } from "firebase/installations";
    
          const installations = getInstallations(app);
          const installationAuthToken = getToken(installations);
      
  2. Nella barra di navigazione della console Firebase, fai clic su Test A/B.
  3. Fai clic su Bozza (e/o In esecuzione per gli esperimenti di Remote Config), passa il mouse sopra l'esperimento, fai clic sul menu contestuale () e poi su Gestisci dispositivi di test.
  4. Inserisci il token di autenticazione dell'installazione per un dispositivo di test e scegli la variante dell'esperimento da inviare a quel dispositivo di test.
  5. Esegui l'app e verifica che la variante selezionata venga ricevuta sul dispositivo di test.

Per scoprire di più sulle installazioni Firebase, consulta Gestire le installazioni di Firebase.

Gestisci l'esperimento

Se crei un esperimento con Remote Config, il compositore di notifiche o Firebase In-App Messaging, puoi convalidarlo e avviarlo, monitorarlo durante l'esecuzione e aumentare il numero di utenti inclusi nel l'esperimento in esecuzione.

Al termine dell'esperimento, puoi prendere nota delle impostazioni utilizzate dalla variante vincente e poi implementarle per tutti gli utenti. In alternativa, puoi eseguire un altro esperimento.

Avvia un esperimento

  1. Nella sezione DevOps e coinvolgimento del menu di navigazione della Firebase console, fai clic su A/B Testing.
  2. Fai clic su Bozza e poi sul titolo dell'esperimento.
  3. Per verificare che la tua app abbia utenti che sarebbero inclusi nell'esperimento, espandi i dettagli della bozza e controlla se nella sezione Targeting e distribuzione è presente un numero maggiore di 0% (ad esempio, 1% degli utenti che soddisfano i criteri).
  4. Per modificare l'esperimento, fai clic su Modifica.
  5. Per avviare l'esperimento, fai clic su Avvia esperimento. Puoi eseguire fino a 24 esperimenti per progetto alla volta.

Monitora un esperimento

Dopo che un esperimento è in esecuzione da un po' di tempo, puoi verificarne l'avanzamento e vedere come appaiono i risultati per gli utenti che hanno partecipato finora all'esperimento.

  1. Nella sezione DevOps e coinvolgimento del menu di navigazione della Firebase console, fai clic su A/B Testing.
  2. Fai clic su In esecuzione e poi sul titolo del tuo esperimento o cercalo. In questa pagina puoi visualizzare varie statistiche osservate e modellate sull'esperimento in esecuzione, tra cui:

    • Differenza (%) dalla base di riferimento: una misura del miglioramento di una metrica per una determinata variante rispetto alla base di riferimento. Viene calcolata confrontando l'intervallo di valori per la variante con l'intervallo di valori per la base di riferimento.
    • Probabilità di superare la base di riferimento: la probabilità stimata che una determinata variante superi la base di riferimento per la metrica selezionata.
    • observed_metric per utente: in base ai risultati dell'esperimento, questo è l'intervallo previsto in cui rientrerà il valore della metrica nel tempo.
    • Totale observed_metric: il valore cumulativo osservato per la base di riferimento o la variante. Il valore viene utilizzato per misurare il rendimento di ogni variante dell'esperimento e per calcolare Miglioramento, Intervallo di valori, Probabilità di superare la base di riferimento e Probabilità di essere la variante migliore. A seconda della metrica misurata, questa colonna potrebbe essere etichettata come "Durata per utente", "Entrate per utente", "Tasso di fidelizzazione" o "Tasso di conversione".
  3. Dopo che l'esperimento è stato eseguito per un po' di tempo (almeno 7 giorni per FCM e In-App Messaging o 14 giorni per Remote Config), i dati in questa pagina indicano quale variante, se presente, è la "migliore". Alcune misurazioni sono accompagnate da un grafico a barre che presenta i dati in formato visivo.

Implementa un esperimento per tutti gli utenti

Dopo che un esperimento è stato eseguito per un periodo di tempo sufficiente da avere una variante "migliore", o la variante vincente, per la metrica dell'obiettivo, puoi rilasciare l'esperimento per il 100% degli utenti. In questo modo, puoi selezionare una variante da pubblicare in futuro per tutti gli utenti. Anche se l'esperimento non ha delineato chiaramente una variante migliore, puoi comunque scegliere di rilasciarne una per tutti i tuoi utenti.

  1. Nella sezione DevOps e coinvolgimento del menu di navigazione della Firebase console, fai clic su A/B Testing.
  2. Fai clic su Completati o In esecuzione, fai clic su un esperimento che vuoi rilasciare per tutti gli utenti, fai clic sul menu contestuale () Implementa variante.
  3. Implementa l'esperimento per tutti gli utenti in uno dei seguenti modi:

    • Per un esperimento che utilizza il compositore di notifiche, utilizza la finestra di dialogo Implementa messaggio per inviare il messaggio agli utenti target rimanenti che non erano inclusi nell'esperimento.
    • Per un esperimento Remote Config, seleziona una variante per determinare quali valori parametro Remote Config aggiornare. I criteri di targeting definiti durante la creazione dell'esperimento vengono aggiunti come nuova condizione nel modello per fare in modo che l'implementazione riguardi solo gli utenti target dell'esperimento. Dopo aver fatto clic su Esamina con Remote Config per rivedere le modifiche, fai clic su Pubblica modifiche per completare l'implementazione.
    • Per un esperimento In-App Messaging, utilizza la finestra di dialogo per determinare quale variante deve essere implementata come campagna In-App Messaging autonoma. Una volta selezionata, verrai reindirizzato alla schermata di composizione di FIAM per apportare eventuali modifiche (se necessario) prima della pubblicazione.

Espandi un esperimento

Se noti che un esperimento non genera un numero sufficiente di utenti per consentire a A/B Testing di dichiarare una variante migliore, puoi aumentare la distribuzione dell'esperimento per raggiungere una percentuale maggiore della base utenti dell'app.

  1. Nella sezione DevOps e coinvolgimento del menu di navigazione della Firebase console, fai clic su A/B Testing.
  2. Seleziona l'esperimento in esecuzione che vuoi modificare.
  3. In Panoramica esperimento, fai clic sul menu contestuale () e poi fai clic su Modifica esperimento in esecuzione.
  4. La finestra di dialogo Targeting mostra un'opzione per aumentare la percentuale di utenti inclusi nell'esperimento in esecuzione. Seleziona un numero maggiore della percentuale attuale e fai clic su Pubblica. L'esperimento verrà implementato per la percentuale di utenti specificata.

Duplica o interrompi un esperimento

  1. Nella sezione DevOps e coinvolgimento del menu di navigazione della Firebase console, fai clic su A/B Testing.
  2. Fai clic su Completati o In esecuzione, tieni il puntatore sopra l'esperimento, fai clic sul menu contestuale () e poi su Duplica esperimento o Interrompi esperimento.

Targeting utente

Puoi scegliere come target gli utenti da includere nell'esperimento utilizzando i seguenti criteri di targeting utente.

Criterio di targeting Operatori Valori Nota
Versione contiene,
non contiene,
corrisponde esattamente a,
contiene regex
Inserisci un valore per una o più versioni dell'app che vuoi includere nell'esperimento.

Quando utilizzi uno degli operatori contiene, non contiene o corrisponde esattamente a, puoi fornire un elenco di valori separato da virgole.

Quando utilizzi l'operatore contiene regex, puoi creare espressioni regolari in formato RE2. L'espressione regolare può corrispondere a tutta o parte della stringa della versione di destinazione. Puoi anche utilizzare gli ancoraggi ^ e $ per trovare la corrispondenza con l'inizio, la fine o l'intera stringa di destinazione.

Pubblico/segmenti di pubblico utente include tutti gli elementi di,
include almeno uno degli elementi di,
non include tutti gli elementi di,
non include almeno uno degli elementi di
Seleziona uno o più segmenti di pubblico Analytics per scegliere come target gli utenti che potrebbero essere inclusi nell'esperimento. Alcuni esperimenti che hanno come target i segmenti di pubblico Google Analytics potrebbero richiedere alcuni giorni per accumulare dati perché sono soggetti alla latenza di elaborazione dei dati Analytics . È più probabile che si verifichi questo ritardo con i nuovi utenti, che in genere vengono registrati nei segmenti di pubblico idonei 24-48 ore dopo la creazione, o per i segmenti di pubblico creati di recente.
Proprietà utente Per il testo:
contiene,
non contiene,
corrisponde esattamente a,
contiene regex

Per i numeri:
<, ≤, =, ≥, >
Una proprietà utente Analytics viene utilizzata per selezionare gli utenti che potrebbero essere inclusi in un esperimento, con una serie di opzioni per la selezione dei valori delle proprietà utente.

Sul client, puoi impostare solo valori stringa per le proprietà utente. Per le condizioni che utilizzano operatori numerici, il Remote Config servizio converte il valore della proprietà utente corrispondente in un numero intero/mobile.
Quando utilizzi l'operatore contiene regex, puoi creare espressioni regolari in formato RE2. L'espressione regolare può corrispondere a tutta o parte della stringa della versione di destinazione. Puoi anche utilizzare gli ancoraggi ^ e $ per trovare la corrispondenza con l'inizio, la fine o l'intera stringa di destinazione.
Paese/regione N/D Uno o più paesi o regioni utilizzati per selezionare gli utenti che potrebbero essere inclusi nell'esperimento.  
Lingue N/D Una o più lingue e impostazioni internazionali utilizzate per selezionare gli utenti che potrebbero essere inclusi nell'esperimento.  
Prima apertura Più di
Meno di
Tra
Scegli come target gli utenti in base alla prima volta che hanno aperto la tua app, specificata in giorni.
Ultimo coinvolgimento con l'app Più di
Meno di
Tra
Scegli come target gli utenti in base all'ultima volta che hanno interagito con la tua app, specificata in giorni.

Metriche A/B Testing

Quando crei l'esperimento, scegli una metrica principale, o dell'obiettivo, che viene utilizzata per determinare la variante vincente. Dovresti anche monitorare altre metriche per comprendere meglio il rendimento di ogni variante dell'esperimento e monitorare le tendenze importanti che potrebbero variare per ogni variante, come la fidelizzazione utenti, la stabilità dell'app e le entrate generate dagli acquisti in-app. Puoi monitorare fino a cinque metriche non dell'obiettivo nell'esperimento.

Supponiamo, ad esempio, di aver aggiunto nuovi acquisti in-app alla tua app e di voler confrontare l'efficacia di due diversi messaggi di "sollecito". In questo caso, potresti decidere di impostare Entrate generate dagli acquisti come metrica dell'obiettivo perché vuoi che la variante vincente rappresenti la notifica che ha generato le entrate più elevate dagli acquisti in-app. Inoltre, poiché vuoi anche monitorare quale variante ha generato più conversioni future e ha fidelizzato gli utenti, potresti aggiungere quanto segue in Altre metriche da monitorare:

  • Entrate stimate totali per vedere in che modo le entrate combinate generate dagli acquisti in-app e dagli annunci differiscono tra le due varianti
  • Fidelizzazione (1 giorno), Fidelizzazione (2-3 giorni), Fidelizzazione (4-7 giorni) per monitorare la fidelizzazione utenti giornaliera/settimanale

Le tabelle seguenti forniscono dettagli su come vengono calcolate le metriche dell'obiettivo e le altre metriche.

Metriche dell'obiettivo

Metrica Descrizione
Utenti che non hanno sperimentato arresti anomali La percentuale di utenti che non hanno riscontrato errori nella tua app che sono stati rilevati dall'Firebase Crashlytics SDK durante l'esperimento.

Nota: Firebase Crashlytics non è supportato per le applicazioni web.

Entrate pubblicitarie stimate Utili degli annunci stimati.
Entrate stimate totali Valore combinato per le entrate generate dagli acquisti e dagli annunci stimate.
Entrate generate dagli acquisti Valore combinato per tutti gli eventi purchase e in_app_purchase.
Fidelizzazione (1 giorno) Il numero di utenti che tornano alla tua app ogni giorno.
Fidelizzazione (2-3 giorni) Il numero di utenti che tornano alla tua app entro 2-3 giorni.
Fidelizzazione (4-7 giorni) Il numero di utenti che tornano alla tua app entro 4-7 giorni.
Fidelizzazione (8-14 giorni) Il numero di utenti che tornano alla tua app entro 8-14 giorni.
Fidelizzazione (più di 15 giorni) Il numero di utenti che tornano alla tua app 15 o più giorni dopo l'ultimo utilizzo.
first_open Un evento Analytics che si attiva quando un utente apre un'app per la prima volta dopo averla installata o reinstallata. Utilizzato nell'ambito di un funnel di conversione.

Altre metriche

Metrica Descrizione
notification_dismiss Un evento Analytics che si attiva quando una notifica inviata da il compositore di notifiche viene ignorata (solo Android).
notification_receive Un evento Analytics che si attiva quando una notifica inviata da il compositore di notifiche viene ricevuta mentre l'app è in background (solo Android).
os_update Un evento Analytics che monitora quando viene aggiornata la versione del sistema operativo del dispositivo.Per scoprire di più, consulta Eventi raccolti automaticamente.

Questa metrica non è supportata per le applicazioni web.

screen_view Un evento Analytics che monitora le schermate visualizzate all'interno dell'app. Per scoprire di più, consulta Monitorare le visualizzazioni di schermate.
session_start Un evento Analytics che conteggia le sessioni utente nella tua app. Per scoprire di più, consulta Eventi raccolti automaticamente.