Jeśli używasz Firebase Remote Config do wdrażania ustawień aplikacji z aktywnymi użytkownikami, musisz się upewnić, że wszystko jest prawidłowo skonfigurowane. Eksperymenty A/B Testing możesz wykorzystać do określenia:
- Najlepszy sposób wdrożenia funkcji, aby zoptymalizować wrażenia użytkownika. Często deweloperzy aplikacji nie dowiadują się, że ich użytkownicy nie podobają się im nowe funkcje lub zaktualizowane środowisko, dopóki ocena ich aplikacji w sklepie z aplikacjami nie spadnie. Testy A/B mogą pomóc Ci sprawdzić, czy użytkownicy lubią nowe wersje funkcji, czy wolą aplikację w jej obecnej formie. Poza tym pozostawienie większości użytkowników w grupie podstawowej zapewnia, że większość użytkowników może nadal korzystać z aplikacji bez żadnych zmian w jej działaniu ani wyglądzie do zakończenia eksperymentu.
- Najlepszy sposób na zoptymalizowanie wrażeń użytkowników pod kątem celu biznesowego. Czasami wprowadzasz zmiany w usłudze, aby zmaksymalizować dane, takie jak przychody lub retencja. Za pomocą testów A/B określasz cel biznesowy, a Firebase przeprowadza analizę statystyczną, aby określić, czy wariant jest skuteczniejszy od punktu odniesienia dla wybranego celu.
Aby przeprowadzić test A/B wariantów cech z użyciem punktu odniesienia:
- Utwórz eksperyment.
- Sprawdź eksperyment na urządzeniu testowym.
- Zarządzaj eksperymentem.
Utwórz eksperyment
Eksperyment Remote Config umożliwia ocenę wielu wariantów pod kątem co najmniej 1 parametru Remote Config.
Zaloguj się w konsoli Firebase i sprawdź, czy w Twoim projekcie jest włączona usługa Google Analytics, aby eksperyment miał dostęp do danych Analytics.
Jeśli podczas tworzenia projektu nie włączysz usługi Google Analytics, możesz to zrobić na karcie Integracje, do której możesz przejść, klikając > Ustawienia projektu w Firebase konsoli.
W sekcji Zaangażowanie w menu nawigacyjnym konsoli Firebase kliknij A/B Testing.
Kliknij Utwórz eksperyment, a następnie wybierz Remote Config, gdy pojawi się prośba o wybranie usługi, z którą chcesz przeprowadzić eksperyment.
Wpisz nazwę i opcjonalnie opis eksperymentu, a potem kliknij Dalej.
Wypełnij pola Kierowanie, najpierw wybierając aplikację, która korzysta z eksperymentu. Możesz też wybrać podzbiór użytkowników, którzy wezmą udział w eksperymencie. Aby to zrobić, kliknij i, a potem wybierz opcje z tej listy:
- Wersja: co najmniej 1 wersja aplikacji.
- Numer kompilacji: kod wersji aplikacji.
- Języki: co najmniej 1 język lub zestaw języków i lokalizacji, na podstawie których można wybrać użytkowników, którzy mogą wziąć udział w eksperymencie.
- Kraj/region: co najmniej jeden kraj lub region do wyboru użytkowników, którzy mają wziąć udział w eksperymencie.
- Odbiorcy użytkowników: Analytics list odbiorców używanych do kierowania reklam na użytkowników, którzy mogą zostać uwzględnieni w eksperymencie.
- Właściwość użytkownika: co najmniej 1 właściwość użytkownika Analytics do wybierania użytkowników, którzy mogą być uwzględnieni w eksperymencie.
Pierwsze uruchomienie: kieruj reklamy na użytkowników, którzy po raz pierwszy uruchomili Twoją aplikację.
Kierowanie na użytkowników według czasu pierwszego otwarcia jest dostępne po wybraniu aplikacji na Androida lub iOS. Jest ono obsługiwane przez następujące wersje pakietu SDK Remote Config: Apple platform SDK w wersji 9.0.0 lub nowszej oraz Android SDK w wersji 21.1.1 lub nowszej (Firebase BoM w wersji 30.3.0 lub nowszej).
Analytics musi też być włączona na kliencie podczas pierwszego zdarzenia open.
Ustaw Odsetek użytkowników docelowych: podaj odsetek użytkowników aplikacji, którzy spełniają kryteria określone w sekcji Użytkownicy docelowi, i których chcesz równomiernie rozdzielić między punkt odniesienia a co najmniej 1 wariant w eksperymencie. Może ona wynosić dowolną wartość procentową z zakresu 0,01–100%. Użytkownicy są przypisywani do każdego eksperymentu losowo. Dotyczy to również eksperymentów powielonych.
Opcjonalnie możesz ustawić zdarzenie aktywacji, aby w eksperymencie były liczone tylko dane o użytkownikach, którzy jako pierwsi wywołali zdarzenie Analytics. Pamiętaj, że wszyscy użytkownicy, którzy spełniają Twoje parametry kierowania, otrzymają wartości eksperymentalne Remote Config, ale w wynikach eksperymentu zostaną uwzględnieni tylko ci, którzy wywołają zdarzenie aktywujące.
Aby eksperyment był prawidłowy, sprawdź, czy wybrane zdarzenie następuje po aktywowaniu pobranych wartości konfiguracyjnych w aplikacji. Nie można też używać tych zdarzeń, ponieważ występują one zawsze przed aktywacją pobieranych wartości:
app_install
app_remove
app_update
dynamic_link_first_open
W sekcji Cele eksperymentu wybierz podstawowe dane do śledzenia i dodaj z listy dodatkowe dane, które chcesz śledzić. Obejmuje to wbudowane cele (zakupy, przychody, retencja, użytkownicy bez awarii itp.), Analytics zdarzeń konwersji i innych zdarzeń Analytics. Gdy skończysz, kliknij Dalej.
W sekcji Warianty wybierz punkt odniesienia i co najmniej 1 wariant do eksperymentu. Aby dodać parametry, z którymi chcesz eksperymentować, użyj opcji Wybierz lub utwórz nową listę. Możesz utworzyć parametr, który nie był wcześniej używany w konsoli Firebase, ale musi on istnieć w Twojej aplikacji, aby mógł mieć jakikolwiek wpływ. Możesz powtórzyć ten krok, aby dodać do eksperymentu kilka parametrów.
(Opcjonalnie) Aby dodać więcej niż 1 wariant do eksperymentu, kliknij Dodaj kolejny wariant.
Zmień co najmniej 1 parametr w określonych wersjach. Wszystkie niezmienione parametry są takie same w przypadku użytkowników nieuwzględnionych w eksperymencie.
Rozwiń Wagi wariantu, aby wyświetlić lub zmienić wagę wariantu na potrzeby eksperymentu. Domyślnie każdy wariant ma taką samą wagę. Pamiętaj, że nierówne rozłożenie wag może wydłużyć czas zbierania danych oraz że nie można zmienić tych ustawień po rozpoczęciu eksperymentu.
Kliknij Sprawdź, aby zapisać eksperyment.
Możesz utworzyć maksymalnie 300 eksperymentów na projekt, co może się składać z maksymalnie 24 uruchomionych eksperymentów – pozostałe jako wersje robocze lub zakończone.
Weryfikowanie eksperymentu na urządzeniu testowym
W przypadku każdej instalacji Firebase możesz pobrać powiązany z nią token uwierzytelniający. Możesz użyć tego tokena do testowania określonych wariantów eksperymentu na urządzeniu testowym z zainstalowaną aplikacją. Aby zweryfikować eksperyment na urządzeniu testowym:
- Aby uzyskać token uwierzytelniający instalację:
Swift
do { let result = try await Installations.installations() .authTokenForcingRefresh(true) print("Installation auth token: \(result.authToken)") } catch { print("Error fetching token: \(error)") }
Objective-C
[[FIRInstallations installations] authTokenForcingRefresh:true completion:^(FIRInstallationsAuthTokenResult *result, NSError *error) { if (error != nil) { NSLog(@"Error fetching Installation token %@", error); return; } NSLog(@"Installation auth token: %@", [result authToken]); }];
Java
FirebaseInstallations.getInstance().getToken(/* forceRefresh */true) .addOnCompleteListener(new OnCompleteListener<InstallationTokenResult>() { @Override public void onComplete(@NonNull Task<InstallationTokenResult> task) { if (task.isSuccessful() && task.getResult() != null) { Log.d("Installations", "Installation auth token: " + task.getResult().getToken()); } else { Log.e("Installations", "Unable to get Installation auth token"); } } });
Kotlin+KTX
val forceRefresh = true FirebaseInstallations.getInstance().getToken(forceRefresh) .addOnCompleteListener { task -> if (task.isSuccessful) { Log.d("Installations", "Installation auth token: " + task.result?.token) } else { Log.e("Installations", "Unable to get Installation auth token") } }
C++
firebase::InitResult init_result; auto* installations_object = firebase::installations::Installations::GetInstance( firebase::App::GetInstance(), &init_result); installations_object->GetToken().OnCompletion( [](const firebase::Future<std::string>& future) { if (future.status() == kFutureStatusComplete && future.error() == firebase::installations::kErrorNone) { printf("Installations Auth Token %s\n", future.result()->c_str()); } });
Unity
Firebase.Installations.FirebaseInstallations.DefaultInstance.GetTokenAsync(forceRefresh: true).ContinueWith( task => { if (!(task.IsCanceled || task.IsFaulted) && task.IsCompleted) { UnityEngine.Debug.Log(System.String.Format("Installations token {0}", task.Result)); } });
- Na pasku nawigacyjnym konsoli Firebase kliknij Testy A/B.
- Kliknij Wersja robocza (lub Aktywny w przypadku eksperymentów Zdalnej konfiguracji), najedź kursorem na eksperyment, kliknij menu kontekstowe (more_vert), a potem Zarządzaj urządzeniami testowymi.
- Wpisz token autoryzacji instalacji dla urządzenia testowego i wybierz wariant eksperymentu, który chcesz wysłać na to urządzenie.
- Uruchom aplikację i sprawdź, czy wybrany wariant jest odbierany na urządzeniu testowym.
Więcej informacji o instalacjach Firebase znajdziesz w artykule Zarządzanie instalacjami Firebase.
Zarządzanie eksperymentem
Niezależnie od tego, czy utworzysz eksperyment z wykorzystaniem narzędzia Remote Config, narzędzia do tworzenia powiadomień czy narzędzia Firebase In-App Messaging, możesz następnie zweryfikować i rozpocząć eksperyment, monitorować go w trakcie jego trwania oraz zwiększyć liczbę użytkowników, którzy będą w nim uczestniczyć.
Po zakończeniu eksperymentu możesz zapisać ustawienia używane przez najlepszy wariant, a potem wdrożyć je dla wszystkich użytkowników. Możesz też przeprowadzić inny eksperyment.
Rozpocznij eksperyment
- W sekcji Zaangażuj w menu nawigacyjnym konsoli Firebase kliknij A/B Testing.
- Kliknij kolejno Wersja robocza i tytuł eksperymentu.
- Aby upewnić się, że aplikacja ma użytkowników, którzy mogą zostać objęci eksperymentem, rozwiń szczegóły wersji roboczej i w sekcji Kierowanie i dystrybucja sprawdź wartość większą niż 0% (np. 1% użytkowników spełniających kryteria).
- Aby zmienić eksperyment, kliknij Edytuj.
- Aby rozpocząć eksperyment, kliknij Rozpocznij eksperyment. Możesz prowadzić maksymalnie 24 eksperymenty na projekt naraz.
Monitorowanie eksperymentu
Po pewnym czasie działania eksperymentu możesz sprawdzić jego postępy i zobaczyć, jakie są wyniki w przypadku użytkowników, którzy do tej pory brali udział w eksperymencie.
- W sekcji Zaangażuj w menu nawigacyjnym konsoli Firebase kliknij A/B Testing.
Kliknij W trakcie, a potem kliknij lub wyszukaj tytuł eksperymentu. Na tej stronie możesz wyświetlić różne statystyki obserwowane i modelowane dotyczące trwającego eksperymentu, w tym:
- % różnicy w stosunku do punktu odniesienia: miara poprawy wskaźnika w danym wariancie w stosunku do punktu odniesienia. Obliczany przez porównanie zakresu wartości wariantu z zakresem wartości wartości odniesienia.
- Prawdopodobieństwo przekroczenia wartości podstawowej: szacunkowe prawdopodobieństwo, że dany wariant będzie miał lepszy wynik niż wartość bazowa wybranego wskaźnika.
- observed_metric na użytkownika: na podstawie wyników eksperymentu jest to przewidywany zakres, w którym będzie się znajdować wartość danych w ciągu czasu.
- Łącznie observed_metric: zaobserwowana wartość skumulowana dla wartości bazowej lub wariantu. Wartość ta służy do pomiaru skuteczności poszczególnych wersji eksperymentu i obliczania poprawy, zakresu wartości, prawdopodobieństwo pokonania punktu odniesienia i prawdopodobieństwo bycia najlepszą wersją. W zależności od mierzonych danych ta kolumna może mieć etykietę „Czas trwania na użytkownika”, „Przychody na użytkownika”, „Współczynnik utrzymania” lub „Współczynnik konwersji”.
Po pewnym czasie działania eksperymentu (co najmniej 7 dni w przypadku FCM i In-App Messaging lub 14 dni w przypadku Remote Config) dane na tej stronie wskazują, który wariant jest najlepszy (o ile w ogóle występuje). Niektórym pomiarom towarzyszy wykres słupkowy, który przedstawia dane w formacie wizualnym.
Wdrożenie eksperymentu dla wszystkich użytkowników
Gdy eksperyment będzie trwał wystarczająco długo, aby zidentyfikować „lidera” lub najlepszy wariant na podstawie danych związanych z realizacją celu, możesz wdrożyć eksperyment dla wszystkich użytkowników. Dzięki temu możesz wybrać wariant, który będzie publikowany wszystkim użytkownikom. Nawet jeśli eksperyment nie wyłonił odmiany wyraźnie lepszej, możesz nadal udostępnić wariant wszystkim użytkownikom.
- W sekcji Zaangażuj w menu nawigacyjnym konsoli Firebase kliknij A/B Testing.
- Kliknij Ukończono lub Trwa, wybierz eksperyment, który chcesz udostępnić wszystkim użytkownikom, kliknij menu kontekstowe ( ) Wdróż wariant.
Udostępnij eksperyment wszystkim użytkownikom, wykonując jedną z tych czynności:
- W przypadku eksperymentu, który korzysta z narzędzia do tworzenia powiadomień, użyj okna Wprowadzanie wiadomości, aby wysłać wiadomość do pozostałych docelowych użytkowników, którzy nie brali udziału w eksperymencie.
- W przypadku eksperymentu Remote Config wybierz wariant, aby określić, które wartości parametru Remote Config chcesz zmienić. Kryteria kierowania określone podczas tworzenia eksperymentu są dodawane do szablonu jako nowy warunek, aby mieć pewność, że wdrożenie dotyczy tylko użytkowników, których obejmuje eksperyment. Po kliknięciu Sprawdź w konfiguracji zdalnej, aby sprawdzić zmiany, kliknij Opublikuj zmiany, aby ukończyć wdrażanie.
- W przypadku eksperymentu In-App Messaging użyj okna dialogowego, aby określić, która wersja ma zostać wdrożona jako samodzielna kampania In-App Messaging. Po wybraniu nastąpi przekierowanie na ekran tworzenia wiadomości FIAM, gdzie możesz wprowadzić ewentualne zmiany przed opublikowaniem.
Rozwijanie eksperymentu
Jeśli okaże się, że eksperyment nie przyciąga wystarczającej liczby użytkowników, aby A/B Testingmogło wyłonić zwycięzcę, możesz zwiększyć dystrybucję eksperymentu, aby dotrzeć do większego odsetka użytkowników aplikacji.
- W sekcji Zaangażuj w menu nawigacyjnym konsoli Firebase kliknij A/B Testing.
- Wybierz trwający eksperyment, który chcesz edytować.
- W Przeglądzie eksperymentu kliknij menu kontekstowe ( ), a następnie Edytuj aktywny eksperyment.
- W oknie Kierowanie wyświetla się opcja zwiększenia odsetka użytkowników, którzy biorą udział w eksperymencie. Wybierz liczbę większą niż obecny odsetek i kliknij Opublikuj. Eksperyment zostanie wdrożony wśród wskazanego przez Ciebie odsetka użytkowników.
Duplikat eksperymentu lub jego zatrzymanie
- W sekcji Zaangażuj w menu nawigacyjnym konsoli Firebase kliknij A/B Testing.
- Kliknij Ukończony lub Uruchomiony, najedź kursorem na eksperyment, kliknij menu kontekstowe ( ), a następnie Duplikuj eksperyment lub Zatrzymaj eksperyment.
Kierowanie na użytkowników
Użytkowników, których chcesz uwzględnić w eksperymencie, możesz kierować za pomocą tych kryteriów kierowania na użytkowników.
Kryterium kierowania | Operatorzy | Wartości | Uwaga | |
---|---|---|---|---|
Wersja | zawiera,
nie zawiera, pasuje dokładnie, zawiera wyrażenie regularne |
Wpisz wartość dla co najmniej 1 wersji aplikacji, którą chcesz uwzględnić w eksperymencie. |
Gdy używasz operatorów zawiera, nie zawiera lub pasuje dokładnie, możesz podać listę wartości rozdzielanych przecinkami. Korzystając z operatora contains regex, możesz tworzyć wyrażenia regularne w formacie RE2. Wyrażenie regularne może zostać dopasowane do całego ciągu znaków wersji docelowej lub do jego części. Możesz też użyć kotwic ^ i $, by dopasować początek, koniec lub całość docelowego ciągu znaków. |
|
Odbiorcy | zawiera wszystkie,
zawiera co najmniej jeden z, nie zawiera wszystkich, nie zawiera co najmniej jednego z |
Wybierz co najmniej 1 listę odbiorców Analytics, na którą chcesz kierować reklamy, aby docierać do użytkowników, którzy mogą być uwzględnieni w Twoim eksperymencie. |
Niektóre eksperymenty kierowane na odbiorców Google Analytics mogą potrzebować kilku dni na zebranie danych, ponieważ podlegają Analytics
opóźnieniu w przetwarzaniu danych.
Najprawdopodobniej opóźnienie to wystąpi w przypadku nowych użytkowników, którzy są zwykle dołączani do odpowiednich list odbiorców w ciągu 24–48 godzin od ich utworzenia, lub w przypadku niedawno utworzonych list odbiorców.
W przypadku funkcji Remote Config oznacza to, że nawet jeśli użytkownik technicznie kwalifikuje się do listy odbiorców, a Analytics nie dodał go jeszcze do tej listy po wykonaniu metody „fetchAndActivate()”, nie zostanie on uwzględniony w eksperymencie. |
|
Właściwość użytkownika | W przypadku tekstu:
contains, does not contain, exactly matches, contains regex W przypadku liczb: <, ≤, =, ≥, > |
Właściwość użytkownika Analytics służy do wybierania użytkowników, którzy mogą zostać uwzględnieni w eksperymencie, oraz udostępnia szereg opcji wyboru wartości właściwości użytkownika.
Na kliencie możesz ustawiać tylko wartości ciągu znaków w przypadku właściwości użytkownika. W przypadku warunków, które używają operatorów liczbowych, usługa Remote Config zamienia wartość odpowiedniej właściwości użytkownika na liczbę całkowitą lub zmiennoprzecinkową. |
Korzystając z operatora contains regex, możesz tworzyć wyrażenia regularne w formacie RE2. Wyrażenie regularne może pasować do całości lub części docelowego ciągu znaków. Możesz też użyć zakotwiczenia ^ i $, aby dopasować początek, koniec lub cały ciąg docelowy. | |
Kraj/region | Nie dotyczy | Co najmniej jeden kraj lub region służący do wyboru użytkowników, którzy mogą zostać objęci eksperymentem. | ||
Języki | Nie dotyczy | Jeden lub więcej języków i regionów służących do wybierania użytkowników, którzy mogą wziąć udział w eksperymencie. | ||
Pierwsze uruchomienie |
Przed Po |
Kieruj na użytkowników na podstawie tego, że po raz pierwszy uruchomili Twoją aplikację:
|
Kierowanie na użytkowników według pierwszego uruchomienia jest dostępne po wybraniu aplikacji na Androida lub iOS. Jest ono obecnie obsługiwane przez pakiet SDK Remote Config w tych wersjach: Apple platform SDK w wersji 9.0.0 lub nowszej oraz Android SDK w wersji 21.1.1 lub nowszej (Firebase BoM w wersji 30.3.0 lub nowszej). Analytics musi też być włączona na kliencie podczas zdarzenia polegającego na pierwszym uruchomieniu. |
A/B Testing wskaźnika
Podczas tworzenia eksperymentu wybierasz podstawowy wskaźnik, czyli cel, który służy do określenia zwycięskiego wariantu. Warto też śledzić inne dane, aby lepiej zrozumieć skuteczność poszczególnych wariantów eksperymentu, a także ważne trendy, które mogą się różnić w przypadku poszczególnych wariantów, np. utrzymanie użytkowników, stabilność aplikacji i przychody z zakupów w aplikacji. W eksperymencie możesz śledzić maksymalnie 5 danych innych niż cele.
Załóżmy na przykład, że używasz Remote Config do uruchamiania w aplikacji 2 różnych ścieżek gry i chcesz zoptymalizować zakupy w aplikacji oraz przychody z reklam, ale jednocześnie chcesz też śledzić stabilność i utrzymanie użytkowników w przypadku każdego wariantu. W takim przypadku możesz wybrać jako dane docelowe Szacunkowe łączne przychody, ponieważ obejmują one przychody z zakupów w aplikacji i z reklam. Następnie w sekcji Inne dane do śledzenia możesz dodać te dane:
- Aby śledzić dzienny i tygodniowy wskaźnik utrzymania użytkowników, dodaj wartości Utrzymanie (2–3 dni) i Utrzymanie (4–7 dni).
- Aby porównać stabilność 2 wersji gry, dodaj użytkowników, u których nie wystąpiła awaria.
- Aby uzyskać bardziej szczegółowe widoki poszczególnych typów przychodów, dodaj kolumny Przychody z zakupów i Szacowane przychody z reklam.
W tabeli poniżej znajdziesz szczegółowe informacje o sposobie obliczania danych dotyczących celów i innych danych.
Dane celów
Dane | Opis |
---|---|
Użytkownicy, u których nie wystąpił błąd | Odsetek użytkowników, którzy nie napotkali w Twojej aplikacji błędów wykrytych przez pakiet SDK Firebase Crashlytics podczas eksperymentu. |
Szacunkowe przychody z reklam | Szacunkowe zarobki z reklam. |
Szacunkowe łączne przychody | Łączna wartość zakupu i szacowanych przychodów z reklam. |
Przychody z zakupów | Połączona wartość wszystkich zdarzeń purchase i in_app_purchase .
|
Utrzymanie użytkowników (1 dzień) | Liczba użytkowników, którzy codziennie wracają do Twojej aplikacji. |
Utrzymanie użytkowników (2–3 dni) | Liczba użytkowników, którzy wrócili do aplikacji w ciągu 2–3 dni. |
Utrzymanie (4–7 dni) | Liczba użytkowników, którzy wracają do Twojej aplikacji w ciągu 4–7 dni. |
Utrzymanie (8–14 dni) | Liczba użytkowników, którzy wracają do Twojej aplikacji w ciągu 8–14 dni. |
Utrzymanie użytkowników (15 dni lub więcej) | Liczba użytkowników, którzy wrócili do aplikacji po co najmniej 15 dniach od ostatniego jej użycia. |
first_open | Zdarzenie Analytics, które jest wywoływane, gdy użytkownik po raz pierwszy otworzy aplikację po jej zainstalowaniu lub ponownym zainstalowaniu. Używana w ramach ścieżki konwersji. |
Inne dane
Dane | Opis |
---|---|
notification_dismiss | Zdarzenie Analytics, które jest wywoływane po zamknięciu powiadomienia wysłanego przez kompozytora powiadomień (tylko na Androidzie). |
notification_receive | Zdarzenie Analytics, które jest wywoływane, gdy powiadomienie wysłane przez edytor powiadomień zostanie odebrane, gdy aplikacja działa w tle (tylko na Androidzie). |
os_update | Zdarzenie Analytics, które śledzi, kiedy system operacyjny urządzenia jest aktualizowany do nowej wersji. Więcej informacji znajdziesz w sekcji Zdarzenia zbierane automatycznie. |
screen_view | Zdarzenie Analytics, które śledzi ekrany wyświetlane w aplikacji. Więcej informacji znajdziesz w artykule Śledzenie wyświetleń ekranu. |
session_start | Zdarzenie Analytics, które zlicza sesje użytkowników w aplikacji. Więcej informacji znajdziesz w sekcji Zdarzenia zbierane automatycznie. |
Eksportowanie danych z BigQuery
Oprócz wyświetlania danych eksperymentu A/B Testing w konsoli Firebase możesz je też sprawdzać i analizować w BigQuery. Chociaż tabela A/B Testing nie ma osobnej tabeli BigQuery, przynależność do eksperymentu i wariantu jest przechowywana w każdym zdarzeniu Google Analytics w tabelach zdarzeń Analytics.
Właściwości użytkownika, które zawierają informacje o eksperymencie, mają postać userProperty.key like "firebase_exp_%"
lub userProperty.key =
"firebase_exp_01"
, gdzie 01
to identyfikator eksperymentu, a userProperty.value.string_value
zawiera indeks wariantu eksperymentu (wartość zero).
Możesz używać tych właściwości użytkownika w eksperymencie do wyodrębniania danych eksperymentu. Dzięki temu możesz dzielić wyniki eksperymentu na wiele różnych sposobów i niezależnie sprawdzać wyniki funkcji A/B Testing.
Aby rozpocząć, wykonaj te czynności zgodnie z opisem w tym przewodniku:
- Włącz w konsoli Firebase eksport BigQuery dla Google Analytics
- Dostęp do danych A/B Testing za pomocą BigQuery
- Przykładowe zapytania
Włączanie eksportowania danych BigQuery do Google Analytics w konsoli Firebase
Jeśli korzystasz z abonamentu Spark, możesz używać piaskownicy BigQuery do uzyskiwania dostępu do BigQuery bezpłatnie, z zastosowaniem limitów piaskownicy. Więcej informacji znajdziesz w artykule Ceny i piaskownica BigQuery.
Najpierw sprawdź, czy dane Analytics są eksportowane do BigQuery:
- Otwórz kartę Integracje, do której możesz przejść, klikając > Ustawienia projektu w konsoli Firebase.
- Jeśli używasz już BigQuery w innych usługach Firebase, kliknij Zarządzaj. W przeciwnym razie kliknij Połącz.
- Zapoznaj się z informacjami na temat łączenia Firebase z BigQuery, a potem kliknij Dalej.
- W sekcji Skonfiguruj integrację włącz przełącznik Google Analytics.
Wybierz region i ustawienia eksportu.
Kliknij Połącz z BigQuery.
W zależności od tego, jak chcesz wyeksportować dane, tabele mogą być dostępne po upływie nawet 1 dnia. Więcej informacji o eksportowaniu danych projektu do BigQuery znajdziesz w artykule Eksportowanie danych projektu do usługi BigQuery.
Dostęp do danych A/B Testing w usłudze BigQuery
Zanim wykonasz zapytanie o dane dotyczące konkretnego eksperymentu, musisz uzyskać część lub wszystkie te informacje, aby użyć ich w zapytaniu:
- Identyfikator eksperymentu: możesz go znaleźć w adresie URL strony Przegląd eksperymentu. Jeśli np. adres URL wygląda tak:
https://console.firebase.google.com/project/my_firebase_project/config/experiment/results/25
, identyfikator eksperymentu to 25. - Identyfikator usługi Google Analytics: jest to 9-cyfrowy identyfikator usługi Google Analytics. Znajdziesz go w sekcji Google Analytics. Pojawia się też w sekcji BigQuery, gdy rozwiniesz nazwę projektu, aby wyświetlić nazwę tabeli zdarzeń Google Analytics (
project_name.analytics_000000000.events
). - Data eksperymentu: aby przyspieszyć i usprawnić zapytanie, warto ograniczyć zapytania do Google Analytics partycji tabel dziennych zdarzeń, które zawierają dane eksperymentu – są to tabele oznaczone za pomocą sufiksu
YYYYMMDD
. Jeśli więc eksperyment trwał od 2 lutego do 2 maja 2024 r., musisz podać wartość_TABLE_SUFFIX between '20240202' AND '20240502'
. Przykład znajdziesz w sekcji Wybieranie wartości określonego eksperymentu. - Nazwy zdarzeń: zwykle odpowiadają one danym celu skonfigurowanym w eksperymencie. np. zdarzenia
in_app_purchase
,ad_impression
lubuser_retention
.
Gdy już zbierzesz informacje potrzebne do wygenerowania zapytania:
- Otwórz BigQuery w konsoli Google Cloud.
- Wybierz projekt, a następnie kliknij Utwórz zapytanie SQL.
- Dodaj zapytanie. Przykładowe zapytania, które należy wykonać, znajdziesz w sekcji Przeglądanie przykładowych zapytań.
- Kliknij Wykonaj.
Wykonywanie zapytań o dane eksperymentu za pomocą zapytania wygenerowanego automatycznie przez konsolę Firebase
Jeśli korzystasz z abonamentu Blaze, na stronie Przegląd eksperymentu znajdziesz przykładowe zapytanie, które zwraca nazwę eksperymentu, jego warianty, nazwy zdarzeń i liczbę zdarzeń w eksperymencie, który wyświetlasz.
Aby uzyskać i uruchomić automatycznie wygenerowane zapytanie:
- W konsoli Firebase otwórz A/B Testing i wybierz eksperyment A/B Testing, którego dotyczy zapytanie, aby otworzyć Przegląd eksperymentu.
- W menu Opcje w sekcji integracji BigQuery kliknij Wysyłanie zapytań do danych eksperymentu. Spowoduje to otwarcie projektu BigQuery w konsoli Google Cloud i wyświetlenie podstawowego zapytania, którego możesz użyć do uzyskania danych eksperymentu.
Ten przykład pokazuje wygenerowane zapytanie dotyczące eksperymentu z 3 wariantami (w tym z elementem bazowym) o nazwie „Eksperyment z zimowym powitaniem”. Zwraca nazwę aktywnego eksperymentu, nazwę wariantu, niepowtarzalne zdarzenie i liczbę zdarzeń. Pamiętaj, że kreator zapytań nie podaje nazwy projektu w nazwie tabeli, ponieważ otwiera się bezpośrednio w projekcie.
/*
This query is auto-generated by Firebase A/B Testing for your
experiment "Winter welcome experiment".
It demonstrates how you can get event counts for all Analytics
events logged by each variant of this experiment's population.
*/
SELECT
'Winter welcome experiment' AS experimentName,
CASE userProperty.value.string_value
WHEN '0' THEN 'Baseline'
WHEN '1' THEN 'Welcome message (1)'
WHEN '2' THEN 'Welcome message (2)'
END AS experimentVariant,
event_name AS eventName,
COUNT(*) AS count
FROM
`analytics_000000000.events_*`,
UNNEST(user_properties) AS userProperty
WHERE
(_TABLE_SUFFIX BETWEEN '20240202' AND '20240502')
AND userProperty.key = 'firebase_exp_25'
GROUP BY
experimentVariant, eventName
Więcej przykładów zapytań znajdziesz w artykule Przykładowe zapytania.
Przykładowe zapytania
W następnych sekcjach znajdziesz przykłady zapytań, które możesz wykorzystać do wyodrębniania danych eksperymentu A/B Testing z tabel zdarzeń Google Analytics.
Wyodrębnianie wartości odchylenia standardowego zakupów i eksperymentów ze wszystkich eksperymentów
Dane z eksperymentu możesz wykorzystać do samodzielnego sprawdzania wyników Firebase A/B Testing. Ten instrukcja SQL BigQuery wyodrębnia warianty eksperymentu, liczbę unikalnych użytkowników w każdym z nich oraz sumuje łączne przychody z zdarzeń in_app_purchase
i ecommerce_purchase
oraz odchylenia standardowe dla wszystkich eksperymentów w zakresie dat określonym jako początek i koniec _TABLE_SUFFIX
. Danych uzyskanych z tego zapytania możesz użyć w generatorze istotności statystycznej dla jednostronnych testów T, aby sprawdzić, czy wyniki dostarczane przez Firebase pasują do Twojej analizy.
Więcej informacji o tym, jak A/B Testing oblicza wnioskowanie, znajdziesz w artykule Interpretowanie wyników testu.
/*
This query returns all experiment variants, number of unique users,
the average USD spent per user, and the standard deviation for all
experiments within the date range specified for _TABLE_SUFFIX.
*/
SELECT
experimentNumber,
experimentVariant,
COUNT(*) AS unique_users,
AVG(usd_value) AS usd_value_per_user,
STDDEV(usd_value) AS std_dev
FROM
(
SELECT
userProperty.key AS experimentNumber,
userProperty.value.string_value AS experimentVariant,
user_pseudo_id,
SUM(
CASE
WHEN event_name IN ('in_app_purchase', 'ecommerce_purchase')
THEN event_value_in_usd
ELSE 0
END) AS usd_value
FROM `PROJECT_NAME.analytics_ANALYTICS_ID.events_*`
CROSS JOIN UNNEST(user_properties) AS userProperty
WHERE
userProperty.key LIKE 'firebase_exp_%'
AND event_name IN ('in_app_purchase', 'ecommerce_purchase')
AND (_TABLE_SUFFIX BETWEEN 'YYYYMMDD' AND 'YYYMMDD')
GROUP BY 1, 2, 3
)
GROUP BY 1, 2
ORDER BY 1, 2;
Wybieranie wartości konkretnego eksperymentu
Ten przykładowy zapytanie pokazuje, jak uzyskać dane dotyczące konkretnego eksperymentu w BigQuery. To przykładowe zapytanie zwraca nazwę eksperymentu, nazwy wariantów (w tym punkt odniesienia), nazwy zdarzeń i liczbę zdarzeń.
SELECT
'EXPERIMENT_NAME' AS experimentName,
CASE userProperty.value.string_value
WHEN '0' THEN 'Baseline'
WHEN '1' THEN 'VARIANT_1_NAME'
WHEN '2' THEN 'VARIANT_2_NAME'
END AS experimentVariant,
event_name AS eventName,
COUNT(*) AS count
FROM
`analytics_ANALYTICS_PROPERTY.events_*`,
UNNEST(user_properties) AS userProperty
WHERE
(_TABLE_SUFFIX BETWEEN 'YYYMMDD' AND 'YYYMMDD')
AND userProperty.key = 'firebase_exp_EXPERIMENT_NUMBER'
GROUP BY
experimentVariant, eventName