Khi bạn tiếp cận người dùng hoặc bắt đầu một chiến dịch tiếp thị mới, bạn muốn đảm bảo rằng mình đã làm đúng. Thử nghiệm A/B có thể giúp bạn từ ngữ và cách trình bày tối ưu bằng cách thử nghiệm các biến thể của thông điệp trên đã chọn trong cơ sở người dùng của mình. Mục tiêu của bạn có phải là tăng tỷ lệ giữ chân người dùng hay không hoặc chuyển đổi trên một sản phẩm, thử nghiệm A/B có thể thực hiện phân tích thống kê để xác định xem một biến thể thông báo có vượt trội so với biến thể cơ sở cho mục tiêu đã chọn.
Để tiến hành thử nghiệm A/B cho các biến thể của tính năng dựa trên giá trị cơ sở, hãy làm như sau:
- Tạo thử nghiệm.
- Xác thực thử nghiệm của bạn trên thiết bị thử nghiệm.
- Quản lý thử nghiệm của bạn.
Tạo thử nghiệm
Một thử nghiệm sử dụng Firebase In-App Messaging cho phép bạn đánh giá nhiều biến thể của một thông báo trong ứng dụng.
Đăng nhập vào Bảng điều khiển Firebase và xác minh rằng Google Analytics đã được bật trong dự án của bạn để thử nghiệm có quyền truy cập vào dữ liệu Analytics.
Nếu không bật Google Analytics khi tạo dự án, bạn có thể bật thẻ đó trên trang Tích hợp mà bạn có thể truy cập bằng > Cài đặt dự án trong bảng điều khiển của Firebase.
Trong phần Thu hút của trình đơn điều hướng Bảng điều khiển Firebase, hãy nhấp vào A/B Testing.
Nhấp vào Tạo thử nghiệm, rồi chọn Gửi thông báo trong ứng dụng khi được nhắc đối với dịch vụ bạn muốn thử nghiệm.
Ngoài ra, trên trình đơn điều hướng bảng điều khiển Firebase, hãy mở rộng Thu hút, rồi nhấp vào In-App Messaging. Sau đó nhấp vào Mới thử nghiệm.
Nhập Tên và phần Nội dung mô tả (không bắt buộc) cho thử nghiệm của bạn và nhấp vào Tiếp theo.
Điền vào các trường Nhắm mục tiêu, trước tiên chọn ứng dụng sử dụng thử nghiệm. Bạn cũng có thể nhắm mục tiêu một nhóm nhỏ người dùng của mình để tham gia thử nghiệm của mình bằng cách chọn các tuỳ chọn bao gồm:
- Phiên bản: Một hoặc nhiều phiên bản ứng dụng
- Đối tượng người dùng: Analytics đối tượng được dùng để nhắm mục tiêu người dùng những người có thể được đưa vào thử nghiệm
- Thuộc tính người dùng: Một hoặc nhiều thuộc tính người dùng Analytics cho chọn những người dùng có thể được đưa vào thử nghiệm
- Quốc gia/khu vực: Một hoặc nhiều quốc gia/khu vực để chọn những người dùng có thể được đưa vào thử nghiệm
- Ngôn ngữ thiết bị: Một hoặc nhiều ngôn ngữ và ngôn ngữ dùng để chọn những người dùng có thể được đưa vào thử nghiệm
- Lần mở đầu tiên: Nhắm mục tiêu người dùng dựa trên lần đầu tiên họ truy cập đã mở ứng dụng của bạn
- Lượt tương tác gần đây nhất với ứng dụng: Nhắm đến người dùng dựa trên lần gần nhất họ tương tác đã tương tác với ứng dụng của bạn
Đặt Tỷ lệ phần trăm người dùng mục tiêu: Chọn tỷ lệ phần trăm cơ sở người dùng phù hợp với tiêu chí được đặt trong Nhắm mục tiêu người dùng mà bạn muốn để chia đều giữa đường cơ sở và một hoặc nhiều biến thể trong thử nghiệm của mình. Tỷ lệ này có thể là bất kỳ tỷ lệ phần trăm nào từ 0,01% đến 100%. Tỷ lệ phần trăm được chỉ định lại ngẫu nhiên cho người dùng trong mỗi thử nghiệm, bao gồm thử nghiệm trùng lặp.
Trong phần Biến thể, hãy định cấu hình một thông báo cơ sở trong ứng dụng để gửi cho nhóm cơ sở bằng giao diện thiết kế thông báo mà bạn dùng cho một chiến dịch nhắn tin trong ứng dụng thông thường.
Để thêm một biến thể vào thử nghiệm của bạn, hãy nhấp vào Thêm Biến thể. Theo mặc định, các thử nghiệm có một đường cơ sở và một biến thể.
(không bắt buộc) Nhập tên mô tả cụ thể hơn cho từng biến thể.
(không bắt buộc) Ở đầu phần Biến thể, hãy nhấp vào nút So sánh nút biến thể để so sánh song song một biến thể thông báo khác với thông báo cơ sở.
Xác định chỉ số mục tiêu cho thử nghiệm của bạn để sử dụng khi đánh giá thử nghiệm các biến thể cùng với mọi chỉ số khác mà bạn muốn sử dụng trong danh sách. Những chỉ số này bao gồm các mục tiêu tích hợp sẵn (mức độ tương tác, lượt mua hàng, doanh thu, tỷ lệ giữ chân người dùng, v.v.), Analytics sự kiện chuyển đổi và các sự kiện khác Analytics sự kiện.
Định cấu hình lên lịch cho thử nghiệm:
- Đặt ngày Bắt đầu và Kết thúc cho thử nghiệm.
- Thiết lập cách kích hoạt tin nhắn trong ứng dụng trên tất cả các biến thể.
Nhấp vào Xem lại để lưu thử nghiệm của bạn.
Bạn được phép tiến hành tối đa 300 thử nghiệm cho mỗi dự án, có thể bao gồm tối đa 24 thử nghiệm đang chạy, phần còn lại là thử nghiệm nháp hoặc đã hoàn tất.
Xác thực thử nghiệm trên thiết bị thử nghiệm
Đối với mỗi lần cài đặt Firebase, bạn có thể truy xuất mã thông báo xác thực cài đặt liên kết với cuộc trò chuyện đó. Bạn có thể dùng mã thông báo này để thử nghiệm các biến thể thử nghiệm cụ thể trên thiết bị thử nghiệm đã cài đặt ứng dụng của bạn. Để xác thực thử nghiệm trên thiết bị thử nghiệm, hãy làm như sau:
- Lấy mã thông báo xác thực cài đặt như sau:
Swift
do { let result = try await Installations.installations() .authTokenForcingRefresh(true) print("Installation auth token: \(result.authToken)") } catch { print("Error fetching token: \(error)") }Objective-C
[[FIRInstallations installations] authTokenForcingRefresh:true completion:^(FIRInstallationsAuthTokenResult *result, NSError *error) { if (error != nil) { NSLog(@"Error fetching Installation token %@", error); return; } NSLog(@"Installation auth token: %@", [result authToken]); }];Java
FirebaseInstallations.getInstance().getToken(/* forceRefresh */true) .addOnCompleteListener(new OnCompleteListener<InstallationTokenResult>() { @Override public void onComplete(@NonNull Task<InstallationTokenResult> task) { if (task.isSuccessful() && task.getResult() != null) { Log.d("Installations", "Installation auth token: " + task.getResult().getToken()); } else { Log.e("Installations", "Unable to get Installation auth token"); } } });Kotlin+KTX
val forceRefresh = true FirebaseInstallations.getInstance().getToken(forceRefresh) .addOnCompleteListener { task -> if (task.isSuccessful) { Log.d("Installations", "Installation auth token: " + task.result?.token) } else { Log.e("Installations", "Unable to get Installation auth token") } } - Trên thanh điều hướng bảng điều khiển Firebase, hãy nhấp vào Thử nghiệm A/B.
- Nhấp vào Bản nháp (và/hoặc Chạy cho Điều khiển từ xa Cấu hình thử nghiệm), hãy di chuột lên thử nghiệm của bạn, rồi nhấp vào trình đơn theo bối cảnh (more_vert), rồi nhấp vào Quản lý thiết bị thử nghiệm.
- Nhập mã thông báo xác thực cài đặt cho thiết bị thử nghiệm và chọn biến thể thử nghiệm để gửi đến thiết bị thử nghiệm đó.
- Chạy ứng dụng và xác nhận rằng biến thể đã chọn đang được nhận trên thiết bị thử nghiệm.
Để tìm hiểu thêm về cách cài đặt Firebase, hãy xem Quản lý lượt cài đặt Firebase.
Quản lý thử nghiệm của bạn
Cho dù bạn tạo một thử nghiệm bằng Remote Config, trình soạn Thông báo, hoặc Firebase In-App Messaging, sau đó bạn có thể xác thực và bắt đầu thử nghiệm, theo dõi thử nghiệm trong khi chạy đồng thời tăng số lượng người dùng được đưa vào thử nghiệm đang chạy của bạn.
Khi thử nghiệm hoàn tất, bạn có thể ghi lại các chế độ cài đặt mà biến thể giành chiến thắng, sau đó triển khai các cài đặt đó cho tất cả người dùng. Hoặc, bạn có thể chạy một thử nghiệm khác.
Bắt đầu thử nghiệm
- Trong phần Thu hút của trình đơn điều hướng Bảng điều khiển Firebase, hãy nhấp vào A/B Testing.
- Nhấp vào Bản nháp, rồi nhấp vào tiêu đề của thử nghiệm.
- Để xác thực rằng ứng dụng của bạn có người dùng sẽ được đưa vào thử nghiệm, mở rộng thông tin nháp và kiểm tra lớn hơn 0% trong phần Nhắm mục tiêu và phân phối (ví dụ: 1% người dùng phù hợp với tiêu chí).
- Để thay đổi thử nghiệm, hãy nhấp vào Chỉnh sửa.
- Để bắt đầu thử nghiệm, hãy nhấp vào Bắt đầu thử nghiệm. Bạn có thể chạy tối đa 24 thử nghiệm cho từng dự án tại một thời điểm.
Theo dõi một thử nghiệm
Khi thử nghiệm đã chạy được một thời gian, bạn có thể kiểm tra tiến trình và xem kết quả của bạn như thế nào cho những người dùng đã tham gia trong thử nghiệm của bạn cho đến thời điểm này.
- Trong phần Thu hút của trình đơn điều hướng Bảng điều khiển Firebase, hãy nhấp vào A/B Testing.
Nhấp vào Đang chạy, sau đó nhấp vào hoặc tìm kiếm tiêu đề của thử nghiệm. Trên trang này, bạn có thể xem nhiều định dạng số liệu thống kê về thử nghiệm đang chạy của bạn, bao gồm:
- % chênh lệch so với giá trị cơ sở: Đo lường mức độ cải thiện của một chỉ số của một biến thể nhất định so với giá trị cơ sở. Được tính bằng cách so sánh khoảng giá trị của biến thể so với phạm vi giá trị cho đường cơ sở.
- Xác suất vượt qua đường cơ sở: Xác suất ước tính mà một đường cơ sở nhất định biến thể lớn hơn đường cơ sở của chỉ số đã chọn.
- observed_metric cho mỗi người dùng: Dựa trên kết quả thử nghiệm, đây là phạm vi dự đoán mà giá trị chỉ số sẽ nằm trong bất cứ lúc nào.
- Tổng observed_metric: Giá trị tích luỹ quan sát được của đường cơ sở hoặc biến thể. Giá trị này được dùng để đo lường mức độ hiệu quả của mỗi biến thể thử nghiệm có hiệu suất và được dùng để tính Mức độ cải thiện, Phạm vi giá trị, Xác suất vượt qua đường cơ sở và Xác suất để đạt được là biến thể tốt nhất. Tuỳ thuộc vào chỉ số đang được đo, có thể được gắn nhãn "Thời lượng mỗi người dùng" "Doanh thu trên mỗi người dùng", "Tỷ lệ giữ chân", hoặc "Tỷ lệ chuyển đổi".
Sau khi thử nghiệm của bạn đã chạy được một thời gian (ít nhất 7 ngày đối với FCM và In-App Messaging hoặc 14 ngày đối với Remote Config), dữ liệu trên trang này cho biết biến thể nào (nếu có) là "biến thể dẫn đầu". Một vài phép đo là kèm theo biểu đồ thanh trình bày dữ liệu ở định dạng trực quan.
Triển khai thử nghiệm cho tất cả người dùng
Sau khi một thử nghiệm đã chạy đủ lâu để bạn có "lãnh đạo" hoặc chiến thắng biến thể, đối với chỉ số mục tiêu của mình, bạn có thể phát hành thử nghiệm cho 100% người dùng. Nhờ đó, bạn có thể chọn một biến thể để phát hành cho tất cả người dùng từ giờ trở đi. Đồng đều nếu thử nghiệm của bạn chưa tạo ra biến thể chiến thắng rõ ràng, bạn vẫn có thể chọn phát hành một biến thể cho tất cả người dùng của mình.
- Trong phần Thu hút của trình đơn điều hướng Bảng điều khiển Firebase, hãy nhấp vào A/B Testing.
- Nhấp vào Đã hoàn tất hoặc Đang chạy, nhấp vào một thử nghiệm mà bạn muốn phát hành cho tất cả người dùng, hãy nhấp vào trình đơn theo bối cảnh () Triển khai biến thể.
Triển khai thử nghiệm cho tất cả người dùng bằng một trong những cách sau:
- Đối với thử nghiệm dùng trình soạn Thông báo, hãy dùng Hộp thoại Triển khai thông báo để gửi thông báo đến những đối tượng được nhắm mục tiêu còn lại những người dùng không tham gia thử nghiệm.
- Đối với thử nghiệm Remote Config, hãy chọn một biến thể để xác định biến thể nào Các giá trị tham số Remote Config cần cập nhật. Tiêu chí nhắm mục tiêu được xác định khi bạn tạo thử nghiệm sẽ được thêm dưới dạng một điều kiện mới trong để đảm bảo rằng việc triển khai chỉ ảnh hưởng đến người dùng mà thử nghiệm. Sau khi nhấp vào Xem lại trong Cấu hình từ xa để xem lại các thay đổi, hãy nhấp vào Xuất bản các thay đổi để hoàn tất việc phát hành.
- Đối với thử nghiệm In-App Messaging, hãy sử dụng hộp thoại để xác định Bạn cần triển khai biến thể dưới dạng một chiến dịch In-App Messaging độc lập. Sau khi chọn, bạn sẽ được chuyển hướng đến màn hình soạn FIAM để thực hiện bất kỳ các thay đổi (nếu cần) trước khi xuất bản.
Mở rộng thử nghiệm
Nếu bạn nhận thấy một thử nghiệm không thu hút đủ người dùng cho A/B Testing để tuyên bố biến thể dẫn đầu, bạn có thể tăng mức phân phối thử nghiệm để đạt lớn hơn trong số cơ sở người dùng của ứng dụng.
- Trong phần Thu hút của trình đơn điều hướng Bảng điều khiển Firebase, hãy nhấp vào A/B Testing.
- Chọn thử nghiệm đang chạy mà bạn muốn chỉnh sửa.
- Trong mục Tổng quan về thử nghiệm, hãy nhấp vào trình đơn theo bối cảnh (), sau đó nhấp vào Chỉnh sửa thử nghiệm đang chạy.
- Hộp thoại Nhắm mục tiêu hiển thị tùy chọn để tăng tỷ lệ phần trăm người dùng tham gia thử nghiệm đang chạy. Hãy chọn một số lớn hơn cao hơn tỷ lệ phần trăm hiện tại, rồi nhấp vào Xuất bản. Thử nghiệm sẽ theo tỷ lệ phần trăm người dùng mà bạn đã chỉ định.
Sao chép hoặc dừng một thử nghiệm
- Trong phần Thu hút của trình đơn điều hướng Bảng điều khiển Firebase, hãy nhấp vào A/B Testing.
- Nhấp vào Đã hoàn tất hoặc Đang chạy, giữ con trỏ trên thử nghiệm của bạn, nhấp vào trình đơn theo bối cảnh () và sau đó nhấp vào Sao chép thử nghiệm hoặc Ngừng thử nghiệm.
Nhắm mục tiêu theo người dùng
Bạn có thể nhắm mục tiêu người dùng để đưa vào thử nghiệm bằng cách sử dụng các tiêu chí nhắm mục tiêu người dùng sau.
| Tiêu chí nhắm mục tiêu | (Các) nhà cung cấp dịch vụ | (Các) Giá trị | Lưu ý |
|---|---|---|---|
| Phiên bản | chứa,
không chứa, khớp chính xác, chứa biểu thức chính quy |
Nhập giá trị cho một hoặc nhiều phiên bản ứng dụng mà bạn muốn đưa vào thử nghiệm. |
Khi sử dụng bất kỳ chất chứa, không chứa, hoặc khớp chính xác với các toán tử, bạn có thể cung cấp danh sách các toán tử được phân tách bằng dấu phẩy giá trị. Khi sử dụng toán tử chứa biểu thức chính quy, bạn có thể tạo biểu thức trong RE2 . Biểu thức chính quy có thể khớp với toàn bộ hoặc một phần của phiên bản đích . Bạn cũng có thể sử dụng các neo ^ và $ để khớp với phần đầu, phần cuối hoặc toàn bộ chuỗi mục tiêu. |
| (Các) đối tượng người dùng | bao gồm tất cả,
bao gồm ít nhất một trong số không bao gồm tất cả, không bao gồm ít nhất một trong |
Chọn một hoặc nhiều đối tượng Analytics để nhắm mục tiêu những người dùng có thể là được bao gồm trong thử nghiệm của bạn. | Một số thử nghiệm nhắm đến đối tượng Google Analytics có thể cần có để tích luỹ dữ liệu trong vài ngày bởi vì chúng phải tuân theo quy định của Analytics độ trễ xử lý dữ liệu. Bạn rất có thể gặp phải sự chậm trễ này với những người dùng mới, là những người thường đăng ký tham gia các đối tượng đủ điều kiện từ 24 đến 48 giờ sau khi tạo, hoặc với đối tượng được tạo gần đây. |
| Thuộc tính người dùng | Đối với văn bản:
chứa, không chứa, khớp chính xác, chứa biểu thức chính quy Đối với số điện thoại: <, ≤, =, ≥, > |
Thuộc tính người dùng Analytics được dùng để chọn những người dùng có thể được đưa vào
trong một thử nghiệm có nhiều lựa chọn để chọn thuộc tính người dùng
giá trị.
Trên máy khách, bạn chỉ có thể đặt các giá trị chuỗi cho người dùng các thuộc tính. Đối với các điều kiện sử dụng toán tử số, dịch vụ Remote Config chuyển đổi giá trị của mã thuộc tính người dùng thành một số nguyên/số thực có độ chính xác đơn. |
Khi sử dụng toán tử chứa biểu thức chính quy, bạn có thể tạo biểu thức trong RE2 . Biểu thức chính quy có thể khớp với toàn bộ hoặc một phần của phiên bản đích . Bạn cũng có thể sử dụng các neo ^ và $ để khớp với phần đầu, phần cuối hoặc toàn bộ chuỗi mục tiêu. |
| Quốc gia/Vùng | Không áp dụng | Một hoặc nhiều quốc gia/khu vực dùng để chọn những người dùng có thể được đưa vào trong thử nghiệm. | |
| Ngôn ngữ | Không áp dụng | Một hoặc nhiều ngôn ngữ và khu vực dùng để chọn những người dùng có thể được đưa vào trong thử nghiệm. | |
| Mở lần đầu |
Hơn
Nhỏ hơn Trong khoảng |
Nhắm đến người dùng dựa trên lần đầu tiên họ truy cập đã mở ứng dụng, được chỉ định theo ngày. | |
| Lượt tương tác gần đây nhất với ứng dụng |
Hơn
Nhỏ hơn Trong khoảng |
Nhắm đến người dùng dựa trên lần gần nhất họ tương tác với ứng dụng của bạn, được chỉ định bằng ngày. |
A/B Testing chỉ số
Khi tạo thử nghiệm, bạn chọn chỉ số chính hoặc mục tiêu, tức là dùng để xác định biến thể chiến thắng. Bạn cũng nên theo dõi các chỉ số khác để giúp bạn hiểu rõ hơn về hiệu suất của từng biến thể thử nghiệm và theo dõi các xu hướng quan trọng có thể khác nhau đối với từng biến thể (chẳng hạn như tỷ lệ giữ chân người dùng, tỷ lệ giữ chân người dùng, ứng dụng) độ ổn định và doanh thu mua hàng trong ứng dụng. Bạn có thể theo dõi tối đa 5 mục tiêu không phải trong thử nghiệm của mình.
Ví dụ: giả sử bạn đã thêm các giao dịch mua hàng mới trong ứng dụng vào ứng dụng của mình và muốn so sánh hiệu quả của hai "lời nhắc" khác nhau tin nhắn. Trong trường hợp này, bạn có thể quyết định chọn đặt Doanh thu từ giao dịch mua hàng làm chỉ số mục tiêu của bạn vì bạn muốn biến thể giành chiến thắng hiển thị thông báo mà dẫn đến doanh thu từ giao dịch mua hàng trong ứng dụng cao nhất. Và vì bạn cũng muốn theo dõi xem biến thể nào dẫn đến nhiều lượt chuyển đổi hơn trong tương lai và giữ chân người dùng, bạn có thể thêm những nội dung sau vào mục Các chỉ số khác cần theo dõi:- Tổng doanh thu ước tính để biết cách kết hợp giao dịch mua hàng trong ứng dụng và quảng cáo doanh thu khác nhau giữa hai biến thể
- Tỷ lệ giữ chân (1 ngày), Tỷ lệ giữ chân (2-3 ngày), Tỷ lệ giữ chân (4-7 ngày) đến theo dõi tỷ lệ giữ chân người dùng hằng ngày/hằng tuần
Các bảng sau đây cung cấp thông tin chi tiết về cách chỉ số mục tiêu và các chỉ số khác được tính.
Chỉ số Mục tiêu
| Chỉ số | Mô tả |
|---|---|
| Số người dùng không gặp sự cố | Tỷ lệ phần trăm người dùng chưa gặp phải lỗi trong ứng dụng của bạn mà SDK Firebase Crashlytics phát hiện thấy trong quá trình thử nghiệm. |
| Doanh thu quảng cáo ước tính | Thu nhập ước tính từ quảng cáo. |
| Tổng doanh thu ước tính | Giá trị kết hợp cho giao dịch mua hàng và doanh thu ước tính từ quảng cáo. |
| Doanh thu từ giao dịch mua hàng | Giá trị kết hợp cho tất cả purchase và
in_app_purchase sự kiện.
|
| Tỷ lệ giữ chân người dùng (1 ngày) | Số người dùng quay lại ứng dụng của bạn hằng ngày. |
| Tỷ lệ giữ chân người dùng (2-3 ngày) | Số người dùng quay lại ứng dụng của bạn trong vòng 2 đến 3 ngày. |
| Tỷ lệ giữ chân người dùng (4-7 ngày) | Số người dùng quay lại ứng dụng của bạn trong vòng 4-7 ngày. |
| Tỷ lệ giữ chân người dùng (8-14 ngày) | Số người dùng quay lại ứng dụng của bạn trong vòng 8-14 ngày. |
| Tỷ lệ giữ chân người dùng (từ 15 ngày trở lên) | Số người dùng quay lại ứng dụng của bạn sau 15 ngày trở lên sử dụng nó lần cuối. |
| first_open | Một sự kiện Analytics kích hoạt khi người dùng mở ứng dụng lần đầu tiên sau cài đặt hoặc cài đặt lại tiện ích đó. Được dùng trong một phễu chuyển đổi. |
Chỉ số khác
| Chỉ số | Mô tả |
|---|---|
| notification_dismiss | Một sự kiện Analytics sẽ kích hoạt khi thông báo được gửi từ trình soạn Thông báo sẽ bị loại bỏ (chỉ Android). |
| notification_receive | Một sự kiện Analytics sẽ kích hoạt khi thông báo được gửi từ trình soạn Thông báo được nhận khi ứng dụng đang chạy trong nền (chỉ dành cho Android). |
| os_update | Một sự kiện Analytics theo dõi thời điểm hệ điều hành của thiết bị đã cập nhật lên phiên bản mới.Để tìm hiểu thêm, hãy xem Tự động sự kiện đã thu thập. |
| screen_view | Một sự kiện Analytics theo dõi các màn hình được xem trong ứng dụng của bạn. Để tìm hiểu xem thêm, xem Theo dõi Lượt xem màn hình. |
| session_start | Một sự kiện Analytics đếm số phiên của người dùng trong ứng dụng của bạn. Để tìm hiểu thêm, xem Tự động sự kiện đã thu thập. |