Phân tích kết quả của Phòng thử nghiệm Firebase

Có nhiều cách để sử dụng Firebase Test Lab nhằm chạy kiểm thử trên ứng dụng Android, bao gồm giao diện dòng lệnh, Android Studio, giao diện người dùng Test Lab trong bảng điều khiển FirebaseAPI kiểm thử. Tuy nhiên, bạn chọn bắt đầu kiểm thử như thế nào, kết quả sẽ được lưu trữ trong dự án Firebase mà bạn chỉ định. Ngoài các công cụ ở trên, bạn có thể khám phá kết quả bằng cách sử dụng ToolResults API. Trang này mô tả cách xem lại và phân tích các kết quả kiểm thử này.

Các khái niệm chính

Để xem kết quả của tất cả các lần chạy kiểm thử trước đó, hãy chọn Test Lab trong bảng điều hướng bên trái của dự án trong bảng điều khiển Firebase. Trang này hiển thị tất cả các lần chạy kiểm thử từ các ứng dụng mà bạn đã kiểm thử bằng dự án của mình bằng Test Lab.

Để xem kết quả kiểm tra, trước tiên, bạn cần hiểu rõ 3 khái niệm sau:

Khi bạn chạy một kiểm thử hoặc một tập hợp các trường hợp kiểm thử trên các thiết bị và cấu hình mà bạn đã chọn, Test Lab sẽ chạy kiểm thử trên ứng dụng của bạn theo lô, sau đó hiển thị kết quả dưới dạng ma trận kiểm thử.

Thiết bị × Lần thực thi kiểm thử = Ma trận kiểm thử

Thiết bị
Thiết bị thực hoặc thiết bị ảo (chỉ dành cho Android) mà bạn chạy kiểm thử, chẳng hạn như điện thoại, máy tính bảng hoặc thiết bị đeo. Các thiết bị trong ma trận kiểm thử được xác định theo mẫu thiết bị, phiên bản hệ điều hành, hướng màn hình và ngôn ngữ (còn gọi là chế độ cài đặt ngôn ngữ và vị trí địa lý).
Kiểm thử, thực thi kiểm thử
Một kiểm thử (hoặc một tập hợp các trường hợp kiểm thử) sẽ chạy trên một thiết bị. Bạn có thể chạy một chương trình kiểm thử trên mỗi thiết bị hoặc phân đoạn chương trình kiểm thử và chạy các trường hợp kiểm thử trên nhiều thiết bị (không bắt buộc).
Ma trận kiểm thử
Chứa trạng thái và kết quả kiểm thử cho các lần thực thi kiểm thử. Nếu bất kỳ lượt thực thi kiểm thử nào trong một ma trận không thành công, thì toàn bộ ma trận sẽ không thành công.

Các phần sau đây giải thích cách xem kết quả kiểm thử.

Diễn giải kết quả nhật ký kiểm thử

Khi chuyển đến kết quả kiểm thử bằng cách chọn biểu tượng Test Lab, bạn sẽ thấy kết quả của các kiểm thử mà bạn đã chạy cho đến thời điểm này.

Nhật ký kiểm thử được nhóm theo ứng dụng. Chỉ 5 ma trận kiểm thử gần đây nhất mới được hiển thị cho mỗi ứng dụng; nếu có nhiều ma trận hơn, bạn có thể nhấp vào đường liên kết Tất cả ma trận ở cuối danh sách kiểm thử ứng dụng để xem danh sách đầy đủ cho ứng dụng đó.

Diễn giải kết quả ma trận kiểm thử

Khi bắt đầu một kiểm thử thông qua giao diện người dùng Test Lab, bạn sẽ được chuyển hướng đến một trang mà bạn có thể xem ma trận kiểm thử và nhấp vào một lần thực thi kiểm thử cụ thể để xem kết quả kiểm thử. Android Studiolệnh gcloud cũng cung cấp URL cho trang kết quả của ma trận kiểm thử.

Trong một ma trận kiểm thử thông thường, bạn có thể chạy một kiểm thử trên khoảng một chục thiết bị khác nhau. Mỗi lần thực thi kiểm thử có thể có kết quả khác nhau. Dưới đây là các kết quả có thể xảy ra cho bất kỳ lần thực thi kiểm thử nào trong ma trận kiểm thử:

  • Đã vượt qua Kiểm thử đã vượt qua: Không gặp lỗi nào.
  • Kiểm thử không thành công không thành công: Đã gặp ít nhất một lỗi.
  • Kiểm thử đã vượt qua không kết luận được: Kết quả kiểm thử không đưa ra được kết luận, có thể là do lỗi Test Lab.
  • Bỏ qua Kiểm thử đã vượt qua: Các giá trị phương diện đã chọn cho một số lần thực thi kiểm thử trong ma trận không tương thích. Điều này xảy ra khi các thiết bị mà bạn chọn không tương thích với một hoặc nhiều cấp độ API Android mà bạn đã chọn.

Để xem lại kết quả kiểm thử tổng hợp cho tất cả ma trận kiểm thử của một ứng dụng nhất định trong dự án Firebase, hãy nhấp vào tên ứng dụng đó, như trong ví dụ sau:

Trang kết quả ma trận kiểm thử mẫu chỉ có 4 lần thực thi kiểm thử Kết quả ma trận kiểm thử

Thao tác này sẽ đưa bạn đến danh sách ma trận kiểm thử cho ứng dụng của bạn. Tại đây, bạn có thể nhấp vào tên của bất kỳ ma trận kiểm thử nào để xem kết quả của ma trận kiểm thử đó, đồng thời có thể nhấp vào tên của ứng dụng (hiển thị trong hộp màu đỏ bên dưới) để xem danh sách ma trận kiểm thử cho các ứng dụng khác được liên kết với dự án Firebase của bạn.

Trang danh sách ma trận kiểm thử mẫu Danh sách ma trận kiểm thử

Ma trận kiểm thử có thể đạt, không đạt hoặc không có kết luận. Một ma trận kiểm thử sẽ hiển thị là không thành công hoặc không kết luận được nếu có bất kỳ lần thực thi kiểm thử nào trong ma trận đó không thành công hoặc không kết luận được.

Diễn giải kết quả kiểm thử Robo

Nếu bạn chạy kiểm thử bằng Robo, kết quả sẽ bao gồm video và ảnh chụp màn hình về việc Robo thu thập thông tin trên giao diện người dùng, ngoài các chỉ số kiểm thử thông thường. Video và ảnh chụp màn hình đó bao gồm các chỉ báo trực quan về các hành động mà Robo đã thực hiện trong quá trình thu thập dữ liệu, tương tự như tính năng "Hiển thị thao tác chạm" trong Android. Bạn có thể sử dụng các chỉ báo này để theo dõi tiến trình của Robo và tái hiện mọi lỗi mà Robo có thể phát hiện.

Ví dụ về video kết quả kiểm thử Robo

Kết quả kiểm thử Robo

Diễn giải kết quả từ một lần thực thi kiểm thử

Trên trang kết quả ma trận kiểm thử, hãy nhấp vào một trong các lần thực thi kiểm thử để xem kết quả của lần thực thi kiểm thử cụ thể đó.

Trang kết quả thực thi kiểm thử mẫu Kết quả thực thi kiểm thử

Trên trang này, bạn có thể xem thời gian cần thiết cho mỗi lần thực thi kiểm thử. Bạn cũng có thể xem kết quả cho các trường hợp kiểm thử cụ thể tương ứng với các phương thức trong tệp APK kiểm thử (đối với kiểm thử đo lường) và kết quả kiểm thử chi tiết, bao gồm nhật ký kiểm thử, ảnh chụp màn hình và video. Đối với Kiểm thử Robo, kết quả kiểm thử chi tiết cũng bao gồm một bản đồ hoạt động cho thấy các đường dẫn giao diện người dùng mà kiểm thử Robo đã truy cập.

Kết quả kiểm thử đo lường được phân vùng

Để giúp bạn diễn giải kết quả kiểm thử đo lường, Test Lab tách riêng từng kiểm thử thành một trang báo cáo chi tiết, hoàn chỉnh với dấu vết ngăn xếp, nhật ký và video. Tính năng này hoạt động bất kể bạn có đang sử dụng Android Orchestrator hay không.

Trang kết quả kiểm thử mẫu Kết quả kiểm thử

Diễn giải kết quả về khả năng hỗ trợ tiếp cận

Kiểm thử Robo sử dụng Trình quét hỗ trợ tiếp cận của Android để phát hiện các vấn đề về khả năng hỗ trợ tiếp cận trong ứng dụng của bạn (lưu ý rằng bạn cũng có thể chạy quy trình quét trên thiết bị của mình). Để biết hướng dẫn về cách xem lại và diễn giải kết quả về khả năng hỗ trợ tiếp cận của kiểm thử Robo, hãy truy cập vào bài viết Bắt đầu sử dụng Trình quét hỗ trợ tiếp cận.

Để biết thông tin chung về cách cải thiện khả năng hỗ trợ tiếp cận của ứng dụng, hãy truy cập vào tài liệu về Hỗ trợ tiếp cận dành cho nhà phát triển Android.

Chỉ số hiệu suất

Các chương trình kiểm thử chạy trên thiết bị thực cũng trả về các chỉ số hiệu suất:

Chỉ sốCấu hình thiết bị bắt buộc
Thời gian khởi động ứng dụngAPI 19 trở lên
Mức sử dụng CPUAPI 21 trở lên
Mức sử dụng bộ nhớ
Hoạt động mạng
Khung hình/giâyAPI 21 trở lên và bao gồm SurfaceView

Kết quả kiểm thử chi tiết

Kết quả kiểm thử chi tiết sẽ có trong 90 ngày sau khi bạn chạy kiểm thử và được lưu trữ trong bộ chứa Google Cloud Storage (nhưng cũng hiển thị trong bảng điều khiển Firebase). Bạn có thể xem kết quả kiểm thử chi tiết trong bộ chứa Cloud Storage khi nhấp vào Kết quả kiểm thử trên trang kết quả thực thi kiểm thử. Khi kết quả kiểm thử chi tiết không còn nữa, bạn vẫn có thể xem những kiểm thử nào đã đạt hoặc không đạt.

Để giữ lại kết quả kiểm thử chi tiết trong hơn 90 ngày, bạn cần gửi kết quả kiểm thử này đến một bộ chứa Cloud Storage mà bạn sở hữu bằng cách sử dụng tuỳ chọn dòng lệnh gcloud --results-bucket. Sau đó, bạn có thể đặt chế độ cài đặt Tuổi để xác định thời gian lưu trữ kết quả trong bộ chứa Cloud Storage. Hãy xem phần Điều kiện vòng đời để biết thông tin về cách thay đổi chế độ cài đặt Tuổi.