Rozwiązywanie problemów z Laboratorium Najczęstsze pytania

Dlaczego test trwa tak długo?

Jeśli w katalogu Test Labwybierzesz urządzenie o wysokim poziomie pojemności, testy mogą się rozpocząć szybciej. Gdy urządzenie ma małą pojemność, testy mogą trwać dłużej. Jeśli liczba wywołanych testów jest znacznie większa niż możliwości wybranych urządzeń, testy mogą trwać dłużej.

Testy przeprowadzane na urządzeniach o dowolnym poziomie wydajności mogą trwać dłużej z powodu tych czynników:

• Ruch, który wpływa na dostępność urządzenia i szybkość testu.
• awarie urządzeń lub infrastruktury, które mogą wystąpić w dowolnym momencie; Aby sprawdzić, czy zgłoszono problemy z infrastrukturą Test Lab, otwórz panel stanu Firebase.

Więcej informacji o pojemności urządzenia w Test Lab znajdziesz w artykule o pojemności urządzenia na Androidzie i iOS.

Dlaczego otrzymuję niejednoznaczne wyniki testów?

Niejednoznaczne wyniki testu występują zwykle z powodu anulowanych przebiegów testu lub błędów infrastruktury.

Błędy infrastruktury są spowodowane wewnętrznymi Test Lab problemami, takimi jak błędy sieci lub nieoczekiwane zachowania urządzeń. Test Lab wewnętrznie wielokrotnie ponawia testy, które powodują błędy infrastruktury, zanim zgłosi niejednoznaczny wynik. Możesz jednak wyłączyć te ponowienia za pomocą parametru failFast.

Aby ustalić przyczynę błędu, wykonaj te czynności:

1. Sprawdź, czy nie występują znane przerwy w działaniu usługi w panelu stanu Firebase.

2. Powtórz test w Test Lab, aby sprawdzić, czy wynik jest powtarzalny.

3. W razie potrzeby spróbuj przeprowadzić test na innym urządzeniu lub innym typie urządzenia.

Jeśli problem będzie się powtarzał, skontaktuj się z zespołem Test Lab na kanale#test-lab na Slacku Firebase.

Dlaczego podział na fragmenty wydłużył czas działania testów?

Podział na fragmenty może wydłużyć czas trwania testów, jeśli podana liczba fragmentów przekracza liczbę urządzeń dostępnych do użycia w Test Lab. Aby tego uniknąć, spróbuj przełączyć się na inne urządzenie. Więcej informacji o wybieraniu innego urządzenia znajdziesz w sekcji Pojemność urządzenia.

Dlaczego rozpoczęcie testu trwa tak długo?

Gdy przesyłasz prośbę o test, aplikacja jest najpierw weryfikowana, ponownie podpisywana itp. w ramach przygotowań do przeprowadzenia testów na urządzeniu. Zwykle trwa to mniej niż kilka sekund, ale może zależeć od czynników takich jak rozmiar aplikacji.

Po przygotowaniu aplikacji wykonywanie testów jest planowane i pozostaje w kolejce, dopóki urządzenie nie będzie gotowe do ich uruchomienia. Dopóki wszystkie testy nie zostaną wykonane, stan macierzy będzie „Oczekujący” (niezależnie od tego, czy testy są w kolejce, czy są aktywnie wykonywane).

Dlaczego test trwa tak długo?

Po zakończeniu wykonania testu artefakty testowe są pobierane z urządzenia, przetwarzane i przesyłane do Cloud Storage. Czas trwania tego kroku może zależeć od liczby i rozmiaru artefaktów.

Aplikacja nie zwraca danych i nie można znaleźć zrzutów ekranu

Artefakty wykonania testu (takie jak zrzuty ekranu i pliki dziennika) są przechowywane w Google Cloud Storage i bezpośrednio renderowane w konsoli Firebase. Jeśli wykonanie testu zostało przeprowadzone w ciągu ostatnich 90 dni, sprawdź, czy masz przypisane role na poziomie projektu (właściciel projektu, edytujący projekt lub przeglądający projekt). Sprawdź też, czy w projekcie lub organizacji nie jest włączona usługa Cloud Audit Logging.

Jeśli wykonanie miało miejsce ponad 90 dni temu, artefakty testu zostały prawdopodobnie automatycznie usunięte. Konfigurację zasobnika wyników możesz sprawdzić, klikając kartę Wyniki testu na panelu Test Lab. Domyślny zasobnik wyników jest skonfigurowany tak, aby przechowywać obiekty przez 90 dni.

Aby dłużej przechowywać artefakty testowe, uruchom polecenie gcloud firebase test android run z flagą --results-bucket i podaj nazwę zasobnika wyników. Więcej informacji znajdziesz w gcloud firebase test android rundokumentacji.

Dlaczego otrzymuję częściowe lub brakujące wyniki testów z instrumentacją?

Podczas przeprowadzania testów instrumentacji mogą pojawiać się błędy wskazujące częściowe wyniki, np. Test run failed to complete. Expected x tests, received y (gdzie y jest mniejsze niż x). Ten błąd oznacza, że Test Lab nie udało się przeanalizować logcat pod kątem znaczników początku lub końca przypadków testowych, które są zwykle generowane przez AndroidJUnitRunner.

Oto najczęstsze przyczyny tego problemu:

Jakie są bezpłatne limity dla Test Lab? Co zrobić, jeśli mi się skończą?

Firebase Test Lab oferuje bezpłatne limity na testowanie na urządzeniach i korzystanie z interfejsów Cloud API. Pamiętaj, że limit testowy jest zgodny ze standardowym planem cenowym Firebase, a limity interfejsu Cloud API nie.

• Limit testowania

  Limity testów są określane na podstawie liczby urządzeń używanych do przeprowadzania testów. Abonament Firebase Spark ma stały limit testowania, który jest bezpłatny dla użytkowników. W przypadku abonamentu Blaze limity mogą się zwiększać, jeśli z czasem wzrośnie wykorzystanie Google Cloud. Jeśli osiągniesz limit testowania, poczekaj do następnego dnia lub przejdź na abonament Blaze, jeśli korzystasz obecnie z abonamentu Spark. Jeśli korzystasz już z abonamentu Blaze, możesz poprosić o zwiększenie limitu. Więcej informacji znajdziesz w sekcji Limit testowy.

  Wykorzystanie limitu testowego możesz śledzić w Google Cloudkonsoli.

• Limit Cloud Testing API

  Interfejs Cloud Testing API ma 2 limity: żądania dziennie na projekt i żądania co 100 sekund na projekt. Możesz monitorować wykorzystanie w Google Cloudkonsoli.

• Limit interfejsu Cloud Tool Results API

  Interfejs Cloud Tool Results API ma 2 limity: zapytania dziennie na projekt i zapytania co 100 sekund na projekt. Możesz monitorować wykorzystanie w Google Cloudkonsoli.

  Więcej informacji o limitach interfejsu API znajdziesz w artykule Limity interfejsu Cloud API dla Test Lab. Jeśli osiągniesz limit interfejsu API:

  • Prześlij prośbę o zwiększenie limitów, edytując limity bezpośrednio w konsoli Google Cloud (pamiętaj, że większość limitów jest domyślnie ustawiona na maksymalną wartość) lub

  • Aby poprosić o zwiększenie przydziału danych w interfejsie API, wypełnij formularz w Google Cloudkonsoli lub skontaktuj się z zespołem pomocy Firebase.

Jak sprawdzić, czy ruch docierający do mojego backendu pochodzi z Test Lab?

W backendzie możesz sprawdzić, czy ruch pochodzi z urządzeń testowych hostowanych przez Firebase, porównując adres IP źródła z naszymi zakresami adresów IP.

Czy Test Lab działa z Ustawieniami usługi VPC?

Test Lab nie współpracuje z VPC-SC, który blokuje kopiowanie aplikacji i innych artefaktów testowych między wewnętrznym magazynem Test Lab a zasobnikami wyników użytkowników.

Jak wykrywać niestabilne testy w Test Lab?

Aby wykryć niestabilne zachowanie w testach, zalecamy użycie opcji --num-flaky-test-attempts . Ponowne uruchomienia testów w celu wyeliminowania niestabilności są rozliczane lub wliczane do dziennego limitu tak samo jak zwykłe wykonania testów.

Pamiętaj:

• Po wykryciu błędu całe wykonanie testu jest uruchamiane ponownie. Nie ma możliwości ponownego uruchomienia tylko tych przypadków testowych, które zakończyły się niepowodzeniem.
• Ponowne uruchomienia w celu usunięcia niestabilności są zaplanowane na ten sam czas, ale nie ma gwarancji, że będą wykonywane równolegle, np. gdy ruch przekracza liczbę dostępnych urządzeń.

Czy Test Lab obsługuje Appium, Flutter/FlutterDriver, ReactNative/Jest lub Cucumber?

Niektóre z tych elementów są uwzględnione w naszym planie rozwoju, ale obecnie nie możemy zagwarantować obsługi tych platform testowych i do tworzenia aplikacji.

Gdzie znajdę szczegóły urządzenia, takie jak rozdzielczość?

Szczegółowe informacje o urządzeniu są dostępne w interfejsie API i można uzyskać do nich dostęp z klienta gcloud za pomocą polecenia describe:

gcloud firebase test ios models describe MODEL

Czy mogę używać dzielenia na partycje w przypadku testów iOS?

Dzielenie na partycje nie jest natywnie obsługiwane w Test Lab na iOS. Możesz jednak użyć klienta Flank, aby podzielić przypadki testowe iOS na mniejsze części.

W tym celu należy ustawić klucz OnlyTestIdentifiers i wartości w pliku .xctestrun. Więcej informacji znajdziesz na stronie man w sekcji xcodebuild.xctestrun.

Dlaczego w wynikach testu na iOS brakuje filmów?

W przypadku urządzeń z iOS 18 lub nowszym nie możemy obsługiwać filmów w wynikach.

Czy Test Lab obsługuje urządzenia do noszenia?

Tak. Test Lab obsługuje zegarek Google Pixel Watch. Teraz możesz przeprowadzać testy samodzielnej aplikacji na Wear OS na zegarkach Google Pixel Watch. Więcej informacji o Test Laburządzeniach znajdziesz w artykule Testowanie na dostępnych urządzeniach.

Czy Test Lab obsługuje najnowsze urządzenia Google?

Tak. Test Lab obsługuje urządzenia Google Pixel Tablet i Google Pixel Fold. Możesz przeprowadzać testy na samodzielnych urządzeniach fizycznych. Więcej informacji o Test Laburządzeniach znajdziesz w artykule Testowanie na dostępnych urządzeniach.

Jak wykryć trwający test w Test Lab?

Jeśli testujesz aplikację w Firebase lub przeprowadzasz testy na potrzeby raportu przed opublikowaniem w Konsoli Play, możesz sprawdzić, czy test jest przeprowadzany na urządzeniu hostowanym w Firebase, wyszukując właściwość systemową firebase.test.lab w pliku MainActivity. Następnie możesz wykonać dodatkowe instrukcje na podstawie wartości logicznej testLabSetting. Więcej informacji znajdziesz w sekcji Zmodyfikowane zachowania testów.

Czy Test Lab obsługuje Appium, Flutter/FlutterDriver, ReactNative/Jest lub Cucumber?

Niektóre z tych elementów są uwzględnione w naszym planie rozwoju, ale obecnie nie możemy zagwarantować obsługi tych platform testowych i do tworzenia aplikacji. Jeśli jednak aplikacja została utworzona za pomocą platformy obsługującej Espresso (np. Flutter), możesz napisać test z instrumentacją za pomocą Espresso, a następnie uruchomić go w Test Lab.

Czy Test Lab umożliwia testowanie zaciemnionych aplikacji, np. za pomocą ProGuard lub R8?

Test Lab nie obsługuje jawnie zaciemniania ani odzaciemniania. Aplikacja prawdopodobnie będzie działać, ale wszelkie zaciemnione dane aplikacji, takie jak ślady stosu, będą w logach zaciemnione.

Czy podczas testowania na Test Lab mogę używać urządzenia składanego w różnych stanach złożenia i pozycjach?

Tak. Urządzenie składane możesz przetestować w różnych stanach i pozycjach.

Urządzenia składane mogą być w różnych stanach złożenia, np. FLAT (całkowicie otwarte) lub HALF_OPENED (między całkowicie otwartym a całkowicie zamkniętym).

Pozycje z kolei obejmują konkretną orientację urządzenia i stan urządzenia składanego. Na przykład pozycja stołu, czyli HALF_OPENED w orientacji poziomej, lub pozycja książki, czyli HALF_OPENED w orientacji pionowej.

Jeśli przeprowadzasz testy instrumentacji, możesz użyć biblioteki Jetpack WindowManager i postępować zgodnie z dokumentacją testowania aplikacji na urządzeniach składanych, aby testować różne stany i pozycje.

Dostępne stany zależą od urządzenia i można z nimi wchodzić w interakcje za pomocą adb shell command cmd device_state.

• Aby wyświetlić bieżący stan, uruchom polecenie adb shell cmd device_state state.
• Aby ustawić lub zastąpić bieżący stan, uruchom adb shell cmd device_state state <IDENTIFIER>.
• Aby zresetować stan, uruchom polecenie adb shell cmd device_state state reset.
• Aby sprawdzić dostępne stany, uruchom polecenie adb shell cmd device_state print-states na urządzeniu składanym.

$ adb shell cmd device_state print-states
Supported states: [
    DeviceState{identifier=0, name='CLOSED', app_accessible=true},
    DeviceState{identifier=1, name='HALF_OPENED', app_accessible=true},
    DeviceState{identifier=2, name='OPENED', app_accessible=true},
    DeviceState{identifier=3, name='REAR_DISPLAY_STATE', app_accessible=true},
]

$ adb shell cmd device_state print-states
Supported states: [
    DeviceState{identifier=0, name='CLOSE', app_accessible=true},
    DeviceState{identifier=1, name='TENT', app_accessible=true},
    DeviceState{identifier=2, name='HALF_FOLDED', app_accessible=true},
    DeviceState{identifier=3, name='OPEN', app_accessible=true},
]

Czy mogę wypróbować Test Lab, jeśli nie mam aplikacji?

W przeciwieństwie do innych usług Firebase, aby korzystać z Test Lab, nie musisz dodawać pakietu SDK Firebase. Jeśli nie masz jeszcze aplikacji, możesz pobrać plik APK online lub utworzyć aplikację i testowy plik APK na podstawie jednego z przykładów w repozytorium AndroidX w GitHubie. Pamiętaj, że do uruchomienia testu Robo potrzebujesz tylko pliku APK aplikacji, a test instrumentacyjny wymaga zarówno aplikacji, jak i pliku APK testu, które są tworzone na podstawie kodu źródłowego. Więcej informacji znajdziesz w artykule Testy z użyciem instrumentacji.

Więcej informacji o funkcjach Test Lab znajdziesz w artykule Rozpoczęcie testowania na Androidzie za pomocą Firebase Test Lab.

Jakie urządzenia są najlepsze do testowania różnic w zrzutach ekranu?

Testowanie różnic w zrzutach ekranu polega na tym, że asercje testowe są oparte na porównaniu obrazów ekranu uzyskanych podczas testu z obrazami wzorcowymi reprezentującymi oczekiwane zachowanie. Takie testy mogą być bardziej podatne na błędy na niektórych typach urządzeń niż na innych. W przypadku tego rodzaju testów zalecamy kierowanie na urządzenia z emulatorem Arm (*.arm). Urządzenia z emulatorem Arm używają obrazów, które są bardzo podobne lub identyczne z emulatorami „ogólnymi” w Android Studio.

Zalecamy też zapoznanie się z bibliotekami testów, które mogą pomóc w zwiększeniu niezawodności testów zrzutów ekranu w przypadku oczekiwanych zmian.

Czy Test Lab aktualizuje urządzenia wirtualne?

Tak. Urządzenia wirtualne są aktualizowane, gdy wprowadzane są te zmiany:

1. Aktualizacje istniejących obrazów
2. Wycofanie wcześniejszych poziomów interfejsu API
3. Dodawane są nowe poziomy interfejsu API Androida

Jak włączyć raporty o zasięgu?

Aby włączyć raporty o zasięgu, dodaj coverage=true do pola environmentVariables. Jeśli używasz Android Test Orchestrator, musisz podać katalog, w którym będą przechowywane wyniki pokrycia:

--environment-variables coverage=true,coverageFilePath=/sdcard/Download/

Jeśli nie używasz Orchestratora, możesz określić ścieżkę do pliku:

--environment-variables coverage=true,coverageFile=/sdcard/Download/coverage.ec

Gdzie znajdę szczegóły urządzenia, takie jak rozdzielczość, obsługiwane interfejsy ABI itp.?

Szczegółowe informacje o urządzeniu są dostępne w interfejsie API i można uzyskać do nich dostęp z klienta gcloud za pomocą polecenia describe:

gcloud firebase test android models describe MODEL

reCAPTCHA podczas logowania

Test automatyczny nie może pominąć ekranów logowania, które wymagają od użytkownika dodatkowych działań poza wpisaniem danych logowania, np. wypełnienia testu CAPTCHA.

Automatyczne logowanie

Automatyczne logowanie się za pomocą konta Google nie jest obsługiwane w przypadku testów Robo na urządzeniach z iOS+ (wersja beta).

Obsługa platformy interfejsu

Testy Robo najlepiej sprawdzają się w przypadku aplikacji, które korzystają z elementów interfejsu z platformy Android UI (w tym obiektów View, ViewGroup i WebView). Jeśli używasz testu Robo do testowania aplikacji, które korzystają z innych platform interfejsu, w tym aplikacji korzystających z silnika gier Unity, test może zakończyć się bez eksplorowania kolejnych ekranów.