Có nhiều cách để sử dụng Firebase Test Lab nhằm chạy các chương trình kiểm thử trên ứng dụng Android, bao gồm giao diện dòng lệnh, Android Studio, Test Lab UI trong Firebase console và Testing API. Tuy nhiên, dù bạn chọn cách nào để bắt đầu các chương trình kiểm thử, kết quả sẽ được lưu trữ trong dự án Firebase mà bạn chỉ định. Bạn có thể khám phá kết quả bằng cách sử dụng ToolResults API ngoài bất kỳ công cụ nào ở trên. Trang này mô tả cách xem xét và phân tích các kết quả kiểm thử này.
Các khái niệm chính
Trong bảng điều khiển Firebase, bạn có thể xem kết quả của tất cả các lần chạy kiểm thử trước đó bằng cách chuyển đến DevOps và Tương tác > Phòng thử nghiệm. Trang này hiển thị tất cả kết quả chi tiết của các lần chạy kiểm thử từ những ứng dụng mà bạn đã kiểm thử bằng dự án của mình thông qua Test Lab.
Để xem xét kết quả kiểm thử, trước tiên, bạn cần hiểu 3 khái niệm:
Khi bạn chạy một chương trình kiểm thử hoặc một tập hợp các trường hợp kiểm thử trên các thiết bị và cấu hình bạn đã chọn, Test Lab sẽ chạy chương trình kiểm thử đó trên ứng dụng của bạn theo lô, sau đó hiển thị kết quả dưới dạng ma trận thử nghiệm.
Thiết bị × Lần thực thi kiểm thử = Ma trận kiểm thử
- Thiết bị
- Một thiết bị thực hoặc thiết bị ảo (chỉ dành cho Android) mà bạn chạy chương trình kiểm thử, chẳng hạn như điện thoại, máy tính bảng hoặc thiết bị đeo. Các thiết bị trong ma trận kiểm thử được xác định theo mẫu thiết bị, phiên bản hệ điều hành, hướng màn hình và ngôn ngữ (còn gọi là chế độ cài đặt địa lý và ngôn ngữ).
- Kiểm thử, phiên chạy thử nghiệm
- Một chương trình kiểm thử (hoặc một tập hợp các trường hợp kiểm thử) sẽ được chạy trên một thiết bị. Bạn có thể chạy một chương trình kiểm thử trên mỗi thiết bị hoặc tuỳ ý phân mảnh chương trình kiểm thử và chạy các trường hợp kiểm thử của chương trình đó trên các thiết bị khác nhau.
- Ma trận thử nghiệm
- Chứa các trạng thái và kết quả kiểm thử cho các lần thực thi kiểm thử. Nếu bất kỳ phiên chạy thử nghiệm nào trong ma trận không thành công, thì toàn bộ ma trận sẽ không thành công.
Các phần sau đây giải thích cách xem kết quả kiểm thử.
Diễn giải kết quả nhật ký kiểm thử
Khi chuyển đến kết quả kiểm thử bằng cách chọn Test Lab, bạn sẽ thấy kết quả của các chương trình kiểm thử mà bạn đã chạy cho đến nay.
Nhật ký kiểm thử được nhóm theo ứng dụng. Chỉ có 5 ma trận kiểm thử gần đây nhất được hiển thị cho mỗi ứng dụng. Nếu có nhiều ma trận hơn, bạn có thể nhấp vào đường liên kết Tất cả ma trận ở cuối danh sách kiểm thử ứng dụng để xem danh sách đầy đủ cho ứng dụng đó.
Diễn giải kết quả ma trận thử nghiệm
Khi bắt đầu một chương trình kiểm thử thông qua Test Lab giao diện người dùng, bạn sẽ được chuyển hướng đến một trang nơi bạn có thể xem ma trận thử nghiệm và nhấp vào một phiên chạy thử nghiệm cụ thể để xem kết quả kiểm thử. Android Studio và lệnh gcloud cũng cung cấp URL cho trang kết quả ma trận thử nghiệm.
Trong ma trận thử nghiệm thông thường, bạn có thể chạy một chương trình kiểm thử trên khoảng chục thiết bị khác nhau. Mỗi phiên chạy thử nghiệm có thể có một kết quả khác nhau. Các kết quả có thể có cho bất kỳ phiên chạy thử nghiệm nào trong ma trận thử nghiệm bao gồm:
- Đạt
: Không gặp phải lỗi nào. - Không đạt
: Gặp phải ít nhất một lỗi. - Không kết luận được
: Kết quả kiểm thử
không kết luận được, có thể là do lỗi Test Lab - Đã bỏ qua
: Các giá trị phương diện đã chọn
cho một số lần thực thi kiểm thử trong ma trận không tương thích. Điều này xảy ra khi các thiết bị mà bạn đã chọn không tương thích với một hoặc nhiều cấp độ API Android mà bạn đã chọn.
Để xem xét kết quả kiểm thử tổng hợp cho tất cả ma trận kiểm thử của một ứng dụng nhất định trong dự án Firebase, hãy nhấp vào tên của ứng dụng, như trong ví dụ sau:
Trang kết quả ma trận thử nghiệm mẫu chỉ có 4 phiên chạy thử nghiệm
Thao tác này sẽ đưa bạn đến danh sách ma trận thử nghiệm cho ứng dụng của bạn, nơi bạn có thể nhấp vào tên của bất kỳ ma trận thử nghiệm nào để xem kết quả ma trận thử nghiệm và nhấp vào tên của ứng dụng (hiển thị trong hộp màu đỏ bên dưới) để xem danh sách ma trận thử nghiệm cho các ứng dụng khác được liên kết với dự án Firebase của bạn.
Trang danh sách ma trận thử nghiệm mẫu
Ma trận thử nghiệm có thể đạt, không đạt hoặc không kết luận được. Ma trận thử nghiệm được hiển thị là không đạt hoặc không kết luận được nếu bất kỳ phiên chạy thử nghiệm nào trong ma trận đó không đạt hoặc không kết luận được.
Diễn giải kết quả thử nghiệm Robo
Nếu bạn chạy các chương trình kiểm thử bằng Robo, kết quả sẽ bao gồm video và ảnh chụp màn hình về việc Robo thu thập thông tin trên giao diện người dùng, ngoài các chỉ số kiểm thử thông thường. Những video và ảnh chụp màn hình đó bao gồm các chỉ báo trực quan về các hành động mà Robo đã thực hiện trong quá trình thu thập thông tin, tương tự như tính năng "Hiển thị lượt chạm" trong Android. Bạn có thể sử dụng các chỉ báo để giúp bạn theo dõi tiến trình của Robo và tái tạo mọi lỗi mà Robo có thể phát hiện.
Video kết quả thử nghiệm Robo mẫu
Diễn giải kết quả của một phiên chạy thử nghiệm
Trên trang kết quả ma trận thử nghiệm, hãy nhấp vào một trong các phiên chạy thử nghiệm để xem kết quả của phiên chạy thử nghiệm cụ thể đó.
Trang kết quả phiên chạy thử nghiệm mẫu
Trên trang này, bạn có thể xem thời gian cần thiết cho mỗi phiên chạy thử nghiệm. Bạn cũng có thể xem kết quả cho các trường hợp kiểm thử cụ thể tương ứng với các phương thức trong APK kiểm thử (đối với các chương trình kiểm thử đo lường) và kết quả kiểm thử chi tiết, bao gồm nhật ký kiểm thử, ảnh chụp màn hình và video. Đối với Thử nghiệm Robo, kết quả kiểm thử chi tiết cũng bao gồm sơ đồ hoạt động cho thấy bằng đồ hoạ các đường dẫn giao diện người dùng mà Thử nghiệm Robo đã truy cập.
Kết quả kiểm thử đo lường được phân vùng
Để giúp bạn diễn giải kết quả kiểm thử đo lường, Test Lab sẽ tách từng chương trình kiểm thử thành trang báo cáo chi tiết riêng, hoàn chỉnh với dấu vết ngăn xếp, nhật ký và video. Tính năng này hoạt động cho dù bạn có sử dụng Trình điều phối Android hay không.
Trang kết quả trường hợp kiểm thử mẫu
Diễn giải kết quả hỗ trợ tiếp cận
Các chương trình kiểm thử Robo sử dụng Trình quét hỗ trợ tiếp cận Android để phát hiện các vấn đề về khả năng hỗ trợ tiếp cận trong ứng dụng của bạn (lưu ý rằng bạn cũng có thể chạy quy trình quét cục bộ trên thiết bị của mình). Để biết hướng dẫn về cách xem xét và diễn giải kết quả hỗ trợ tiếp cận của thử nghiệm Robo, hãy truy cập vào bài viết Bắt đầu sử dụng Trình quét hỗ trợ tiếp cận.
Để biết thông tin chung về cách cải thiện khả năng hỗ trợ tiếp cận của ứng dụng, hãy truy cập Tài liệu về khả năng hỗ trợ tiếp cận dành cho nhà phát triển Android.
Các chỉ số hiệu suất
Các chương trình kiểm thử chạy trên thiết bị thực cũng trả về các chỉ số hiệu suất:
| Chỉ số | Cấu hình thiết bị bắt buộc |
|---|---|
| Thời gian khởi động ứng dụng | API 19 trở lên |
| Mức sử dụng CPU | API 21 trở lên |
| Mức sử dụng bộ nhớ | |
| Hoạt động mạng | |
| Khung hình/giây | API 21 trở lên và bao gồm SurfaceView |
Kết quả kiểm thử chi tiết
Kết quả kiểm thử chi tiết có sẵn trong 90 ngày sau khi bạn chạy một chương trình kiểm thử và được lưu trữ trong một nhóm Google Cloud Storage (nhưng cũng hiển thị trong bảng điều khiển Firebase). Bạn có thể xem kết quả kiểm thử chi tiết trong Cloud Storage bộ chứa khi nhấp vào Kết quả kiểm thử trên trang kết quả phiên chạy thử nghiệm. Khi kết quả kiểm thử chi tiết không còn nữa, bạn vẫn có thể xem những chương trình kiểm thử nào đã đạt hoặc không đạt.
Nếu muốn giữ lại kết quả kiểm thử chi tiết trong hơn 90 ngày, bạn có thể gửi các kết quả kiểm thử này đến một nhóm Cloud Storage mà bạn sở hữu bằng cách sử dụng --results-bucket tuỳ chọn dòng lệnh gcloud. Sau đó, bạn có thể đặt chế độ cài đặt Tuổi để xác định thời gian lưu trữ kết quả trong nhóm Cloud Storage của bạn. Hãy xem Điều kiện vòng đời để biết thông tin về cách thay đổi chế độ cài đặt Tuổi.
Khi chạy một chương trình kiểm thử, nếu bạn nhận được lỗi does not have storage.objects.create access to the Google Cloud Storage object. Permission 'storage.objects.create' denied on resource (or it may not exist).., thì thực thể chính thực thi chương trình kiểm thử có thể không có quyền chính xác trên dự án. Theo mặc định, Firebase sẽ tạo một nhóm cho bạn trong Google Cloud Storage, tuy nhiên, thực thể chính thực thi chương trình kiểm thử phải có vai trò "roles/editor", đây là vai trò cho phép. Nếu không thể cấp vai trò đó cho thực thể chính, bạn có thể sử dụng tuỳ chọn dòng lệnh gcloud --results-bucket.