פתרון בעיות ב-Test Lab & שאלות נפוצות

למה הבדיקה נמשכת כל כך הרבה זמן?

אם בוחרים במכשיר עם רמת קיבולת גבוהה בקטלוג Test Lab, ייתכן שהבדיקות יתחילו מהר יותר. אם קיבולת המכשיר נמוכה, ייתכן שהבדיקות יימשכו זמן רב יותר. אם מספר הבדיקות שמפעילים גדול בהרבה מהקיבולת של המכשירים שנבחרו, זמן השלמת הבדיקות עשוי להתארך.

בדיקות שפועלות בכל רמת קיבולת של מכשיר עשויות להימשך זמן רב יותר בגלל הגורמים הבאים:

• תנועה, שמשפיעה על זמינות המכשיר ועל מהירות הבדיקה.
• כשלים במכשיר או בתשתית, שיכולים לקרות בכל שלב. כדי לבדוק אם קיימת תשתית שדווחה עבור Test Lab, תוכלו לעיין בלוח הבקרה של סטטוס שירותי Firebase.

מידע נוסף על קיבולת המכשיר ב-Test Lab זמין במאמרים על קיבולת המכשיר ב-Android וב-iOS.

למה מופיעות תוצאות בדיקה לא חד-משמעיות?

תוצאות בדיקה לא חד-משמעיות נובעות בדרך כלל מביטולי הפעלות בדיקה או משגיאות בתשתית.

שגיאות בתשתית נגרמות מבעיות פנימיות של Test Lab, כמו שגיאות ברשת או התנהגויות לא צפויות במכשיר. Test Lab משבית באופן פנימי את ההרצות של הבדיקות שמניבות שגיאות בתשתית מספר פעמים לפני שמדווח על תוצאה לא חד-משמעית. עם זאת, אפשר להשבית את הניסיונות החוזרים האלה באמצעות failFast.

כדי לברר מה גורם לשגיאה, מבצעים את השלבים הבאים:

1. תוכלו לבדוק אם יש הפסקות זמניות בשירות ידועות בלוח הבקרה של סטטוס Firebase.

2. מנסים שוב את הבדיקה ב-Test Lab כדי לוודא שאפשר לשחזר אותה.

3. כדאי לנסות להריץ את הבדיקה במכשיר אחר או בסוג מכשיר אחר, אם רלוונטי.

אם הבעיה נמשכת, אפשר לפנות לצוות Test Lab בערוץ #test-lab ב-Slack של Firebase.

למה הפיצול הארך את הבדיקות שלי?

חלוקה למקטעים עלולה לגרום להארכת משך הזמן של הבדיקה אם מספר המקטעים שציינתם חורג ממספר המכשירים שזמינים לשימוש ב-Test Lab. כדי למנוע את המצב הזה, כדאי לנסות לעבור למכשיר אחר. למידע נוסף על בחירת מכשיר אחר, ראוקיבולת המכשיר.

למה לוקח זמן רב כל כך להתחיל את הבדיקה?

כששולחים בקשת בדיקה, האפליקציה עוברת אימות, חתימה מחדש וכו' כדי להתכונן להרצת בדיקות במכשיר. בדרך כלל התהליך הזה מסתיים תוך כמה שניות, אבל הוא עשוי להימשך יותר זמן בגלל גורמים כמו גודל האפליקציה.

אחרי שהאפליקציה מוכנה, הרצת הבדיקות מתזמנת ונשארת בתור עד שמכשיר מוכן להריץ אותה. עד שכל הרצות הבדיקות יסתיימו, סטטוס המטריצה יהיה 'בהמתנה' (ללא קשר לכך שהרצות הבדיקות נמצאות בתור או שפועלות באופן פעיל).

למה הבדיקה נמשכת זמן רב?

כשביצוע הבדיקה מסתיים, מתבצעת הורדה של פריטי מידע שנוצרו בתהליך הפיתוח (Artifact) של הבדיקה מהמכשיר, עיבוד והעלאה שלהם אל Cloud Storage. משך השלב הזה יכול להיות מושפע מהכמות והגודל של פריטי המידע שנוצרו בתהליך הפיתוח (Artifact).

מהן המכסות ללא עלות של Test Lab? מה עושים אם נגמר המקום?

Firebase Test Lab מציע מכסות ללא עלות לבדיקה במכשירים ולשימוש בממשקי Cloud API. חשוב לזכור שבמכסה לבדיקה נעשה שימוש בתוכנית התמחור הרגילה של Firebase, ואילו במכסות של Cloud API לא נעשה שימוש בתוכנית כזו.

• בדיקת המכסה

  מכסות הבדיקה נקבעות על סמך מספר המכשירים שבהם נעשה שימוש להרצת בדיקות. בתוכנית Firebase Spark יש מכסה קבועה לבדיקה ללא עלות למשתמשים. בתוכנית Blaze, המכסות עשויות לגדול אם השימוש שלכם ב-Google Cloud יגדל עם הזמן. אם הגעתם למכסת הבדיקות, עליכם להמתין עד ליום המחרת או לשדרג לתוכנית Blaze, אם אתם כרגע בתוכנית Spark. אם כבר רכשתם את המינוי ל-Blaze, תוכלו לבקש הגדלה של המכסה. מידע נוסף זמין במאמר מכסה לבדיקה.

  אפשר לעקוב אחרי ניצול המכסה לבדיקה במסוף Google Cloud.

• מכסה ל-Cloud Testing API

  ל-Cloud Testing API יש שתי מכסות: בקשות ליום לכל פרויקט ובקשות לכל 100 שניות לכל פרויקט. אפשר לעקוב אחרי השימוש במסוף Google Cloud.

• מכסה של Cloud Tool Results API

  ל-Cloud Tool Results API יש שתי מכסות: שאילתות ליום לכל פרויקט ושאילתות לכל 100 שניות לכל פרויקט. אפשר לעקוב אחרי השימוש במסוף Google Cloud.

  למידע נוסף על מגבלות ה-API, אפשר לעיין במאמר מכסות Cloud API ל-Test Lab. אם הגעתם למכסה של API:

  • לשלוח בקשה להגדלת המכסות על ידי עריכת המכסות ישירות במסוף Google Cloud (לתשומת ליבכם: רוב המגבלות מוגדרות למקסימום כברירת מחדל).

  • כדי לבקש הגדלה של מכסות ה-API, אפשר למלא טופס בקשה במסוף Google Cloud או לפנות לתמיכה של Firebase.

איך אפשר לברר אם התנועה שמגיעה לקצה העורפי שלי מגיעה מ-Test Lab?

כדי לקבוע אם התנועה מגיעה ממכשירי בדיקה שמתארחים ב-Firebase, תוכלו לבדוק את כתובת ה-IP של המקור מול טווחי ה-IP שלנו בקצה העורפי.

האם Test Lab פועל עם VPC-SC?

Test Lab לא פועל עם VPC-SC, שמחסום את ההעתקה של אפליקציות וארטיפקטים אחרים של בדיקות בין האחסון הפנימי של Test Lab לבין הקטגוריות של תוצאות המשתמשים.

איך מזהים בדיקות לא יציבות ב-Test Lab?

כדי לזהות התנהגות לא יציבה בבדיקות, מומלץ להשתמש באפשרות --num-flaky-test-attempts . הרצות חוזרות של Deflake מחוייבות או נספרות במסגרת המכסה היומית בדיוק כמו הרצות רגילות של בדיקות.

זכור את הנקודות הבאות:

• כל ביצוע הבדיקה מופעל מחדש כשמזוהה כשל. אין תמיכה בניסיונות חוזרים רק של מקרי בדיקה שנכשלו.
• ניסיונות חוזרים של Deflake מתוזמנים לפעול באותו זמן, אבל אין ערובה שהם יפעלו במקביל. לדוגמה, אם נפח התנועה חורג ממספר המכשירים הזמינים.

האם Test Lab תומך ב-Appium,‏ Flutter/FlutterDriver,‏ ReactNative/Jest או Cucumber?

למרות שחלק מהפריטים האלה נמצאים במפת הדרכים שלנו, אנחנו לא יכולים להתחייב לתמוך בפלטפורמות הבדיקה ופיתוח האפליקציות האלה.

איפה אפשר למצוא פרטי המכשיר, כמו רזולוציה וכו'?

פרטים מפורטים על המכשיר זמינים דרך ה-API, וניתן לגשת אליהם מלקוח gcloud באמצעות הפקודה describe:

gcloud firebase test ios models describe MODEL

האם אפשר להשתמש בחלוקה לפלחים בבדיקות ל-iOS?

אין תמיכה מובנית בחלוקה למקטעים ב-Test Lab ל-iOS. עם זאת, אפשר להשתמש בלקוח Flank כדי לפצל תרחישי בדיקה ל-iOS.

כדי לעשות זאת, מגדירים את המפתח OnlyTestIdentifiers ואת הערכים בקובץ .xctestrun. אפשר למצוא פרטים נוספים בדף man של xcodebuild.xctestrun.

captcha לכניסה

בדיקת Robo לא יכולה לעקוף את מסכי הכניסה שמחייבים פעולה נוספת מצד המשתמש, מלבד הזנת פרטי הכניסה לצורך כניסה, למשל, הוספת CAPTCHA.

תמיכה במסגרת של ממשק המשתמש

בדיקת Robo פועלת בצורה הטובה ביותר באפליקציות שמשתמשות ברכיבי ממשק משתמש מסגרת ממשק המשתמש של Android (כולל אובייקטים מסוג View,‏ ViewGroup ו-WebView). אם משתמשים ב-Robo Test כדי לבדוק אפליקציות שמשתמשות במסגרות אחרות של ממשק משתמש, כולל אפליקציות שמשתמשות במנוע המשחקים של Unity, יכול להיות שהבדיקה תסתיים בלי לבדוק מעבר למסך הראשון.