הכשלים של מערכות הערכת גיל מבוססות בינה מלאכותית

מערכות הערכת גיל מבוססות בינה מלאכותית והשימוש הביומטרי בגבולות

ממשלת בריטניה מתקדמת בתוכניתה לסרוק את פניהם של מבקשי מקלט באמצעות מערכות הערכת גיל מבוססות בינה מלאכותית, למרות דוחות פנימיים המזהירים מפני שיעורי שגיאה גבוהים והטיה גזעית מובנית. הטכנולוגיה, שנועדה למנוע ממבוגרים להתחזות לקטינים, עלולה להוביל לשלילת זכויות חוקיות מילדים ולהשמתם במתקני כליאה למבוגרים בשל חוסר דיוק קיצוני.

מה זה מערכת הערכת גיל מבוססת בינה מלאכותית?

מערכות הערכת גיל מבוססות בינה מלאכותית (Facial Age Estimation - FAE) הן פתרונות תוכנה המנתחים תווי פנים של אדם מתוך תמונה או קובץ וידאו, ומשתמשים במודלים של למידת מכונה (Machine Learning) כדי להעריך את גילו הכרונולוגי של המצולם. בהקשר עסקי וממשלתי, טכנולוגיה זו משמשת לאימות גיל משתמשים בפלטפורמות דיגיטליות, הגבלת גישה לתכנים רגישים, או אכיפת חוקי כניסה ומעברי גבול. לדוגמה, רשתות חברתיות ואתרי מסחר אלקטרוני משלבים כלים אלו כדי לעמוד בדרישות רגולטוריות למניעת גישת קטינים. על פי בדיקות מעבדה מבוקרות שבוצעו בענף, האלגוריתמים המובילים מסוגלים לחזות גיל בטווח סטייה של כ-2.5 שנים בתנאי תאורה אופטימליים, אך בפועל רמת הדיוק צונחת משמעותית עקב גורמים סביבתיים ודמוגרפיים שונים.

הכשלים שנחשפו במערכות של משרד הפנים הבריטי

חקירה משותפת ומקיפה של WIRED (מגזין הטכנולוגיה האמריקאי) וארגון Lighthouse Reports (ארגון העיתונות החוקרת האירופי), בשיתוף עם העיתון The Independent (העיתון הבריטי היומי), חשפה מסמכים פנימיים וחסויים של ה-Home Office (משרד הפנים הבריטי). המסמכים הללו מראים בבירור כי האלגוריתמים שנבחנו מציגים אחוזי שגיאה מדאיגים והטיות חמורות שעלולות לחרוץ גורלות. על פי הנתונים שפורסמו מהדוח שהושלם באפריל 2025, המערכת שנמצאה כ"טובה ביותר" מתוך שבעה אלגוריתמים שונים שנבחנו הציגה את הביצועים הגרועים ביותר דווקא על מהגרים מאפריקה שמדרום לסהרה – שהם קבוצת המהגרים הגדולה ביותר שהגיעה לבריטניה בשנים האחרונות. עבור נשים מקבוצה דמוגרפית זו, הערכת הגיל של המערכת טעתה בממוצע של לא פחות מ-4.6 שנים. המשמעות המעשית היא שנערה בת 13.5 בלבד עלולה להיות מסווגת כבגירה בת 18, להישלח למעצר עם מבוגרים ולעבור סנקציות משפטיות חמורות שאינן מיועדות לקטינים. לפרטים נוספים על השפעות ה-AI על ניהול תהליכים מורכבים, מומלץ לקרוא על פתרונות סוכני AI המיושמים בצורה מבוקרת ואתית.

משרד הפנים הבריטי רכש לאחרונה טכנולוגיית סריקת פנים מהחברה הגרמנית Cognitec (חברת ביומטריה וזיהוי פנים גרמנית) בסכום של למעלה מ-400,000 דולר במאי האחרון, למרות הממצאים הקשים שהיו ידועים לו. החקירה העלתה כי ניתוח נתוני ה-NIST (המכון הלאומי לתקנים וטכנולוגיה של ארה"ב) עבור האלגוריתמים של Cognitec הראה כי שיעור השגיאות הוכפל כאשר נעשה שימוש בתמונות באיכות נמוכה שנלקחו במעברי גבול בהשוואה לתמונות ויזה איכותיות. בנוסף, נחשף כי הממשלה הבריטית פירקה את הוועדה המדעית המייעצת שתפקידה היה להעריך שיטות זיהוי גיל, מיד לאחר שזו ניסתה להתריע על חוסר הדיוק המשווע של הטכנולוגיה. פרופסור טים קול מ-University College London (אוניברסיטת UCL בלונדון), חבר הוועדה לשעבר, כינה את המערכות הללו "בלתי מדויקות באופן מחריד" וציין כי הממשלה פשוט מיהרה לסגור את הוועדה כדי למנוע ביקורת מדעית משמעותית.

ההקשר הבינלאומי של טכנולוגיות מעקב ואימות ביומטרי

ההחלטה של בריטניה ליישם טכנולוגיה זו אינה מקרה בודד אלא חלק ממגמה גלובלית רחבה יותר. ממשלות רבות ברחבי העולם פונות לאמצעי מעקב וביומטריה חדישים בניסיון להתמודד עם אתגרי הגירה וביטחון לאומי, תוך שהן משקיעות מיליארדי דולרים במערכות שאינן בשלות מספיק לפעילות מבצעית. ארגוני זכויות אדם כמו Foxglove (ארגון זכויות האדם הבריטי) ו-Human Rights Watch (ארגון זכויות האדם הבינלאומי) פנו במכתב פתוח לממשלה בדרישה לעצור את הפרויקט, בטענה שמדובר בניסוי בבני אדם תוך שימוש בטכנולוגיה מפלה. הממצאים של ה-NIST מחזקים את הטענה כי מרבית האלגוריתמים הללו מושפעים לרעה מגורמים פיזיולוגיים, מתח נפשי, תנאי תאורה גרועים והטיות גילאיות מובנות במאגרי המידע שעליהם אומנו המודלים.

השלכות הרגולציה וסריקת הפנים על עסקים בישראל

בישראל, השימוש בטכנולוגיות זיהוי פנים, עיבוד ביומטרי והערכת גיל נמצא תחת זכוכית מגדלת משפטית וציבורית משמעותית. חוק הגנת הפרטיות, תשמ"א-1981 והנחיותיה הרשמיות של הרשות להגנת הפרטיות קובעים מגבלות מחמירות על איסוף ועיבוד של נתונים ביומטריים. עבור עסקים ישראליים – ובמיוחד חברות פינטק, פלטפורמות מסחר אלקטרוני, קליניקות רפואיות דיגיטליות וחברות ביטוח – הכשלים הללו מהווים תמרור אזהרה דרמטי. הסתמכות עיוורת על אלגוריתמים אוטומטיים ללא מעורבות אנושית ("Human-in-the-Loop") עלולה לחשוף ארגונים לתביעות משפטיות ייצוגיות בגין אפליה אסורה, רשלנות ופגיעה קשה בפרטיות הלקוחות. חברות המבקשות להטמיע פתרונות מבוססי ראייה ממוחשבת נדרשות לבצע הליכי בדיקת נאותות (Due Diligence) מקיפים כדי לוודא שתוכנות אלו נבחנו ואומנו על מאגרי מידע מגוונים המייצגים נאמנה את החברה הישראלית על כל גווניה, ולמנוע כשלים אלגוריתמיים שיכולים להשפיע על המוניטין של המותג.

מה לעשות עכשיו: צעדים מעשיים לעסקים המטמיעים טכנולוגיות AI

אם הארגון שלכם שוקל או מבצע הטמעה של כלי בינה מלאכותית או אוטומציה המערבים זיהוי פנים, עליכם לנקוט בצעדים הבאים על מנת להבטיח עבודה תקינה וחוקית:

1. שמירה על גורם אנושי מקבל החלטות (Human-in-the-Loop): אל תאפשרו לאלגוריתם לקבל החלטות בעלות משמעות כספית, חוקית או אישית עבור הלקוח ללא בקרה של עין אנושית מיומנת. השתמשו בטכנולוגיה ככלי עזר תומך החלטה בלבד.
2. ביצע מבחני הטיה וביקורת אלגוריתמית: דרשו מהספקים נתונים שקופים ומפורטים לגבי שיעורי הדיוק של המודל לפי פלחי אוכלוסייה שונים. בדקו האם המערכת מתאימה לדמוגרפיה הספציפית של קהל הלקוחות שלכם בישראל.
3. הגדרת רף איכות קפדני לקבצי המקור: תכננו את ממשק המשתמש שלכם כך שינחה את הלקוחות לצלם תמונות בתנאי תאורה אופטימליים, וימנע שליחת תמונות מטושטשות או חשוכות. איכות התמונה היא הגורם החשוב ביותר בצמצום אחוזי השגיאות האלגוריתמיות.
4. בניית ארכיטקטורת נתונים מאובטחת: שלבו פתרונות של אוטומציה עסקית מתוחכמת כדי לנהל את המידע הביומטרי בצורה מאובטחת, המונעת זליגה או שמירה לא חוקית של קבצי תמונות רגישים בהתאם להוראות הדין הישראלי.

מבט קדימה

לסיכום, שילוב של מערכות הערכת גיל מבוססות בינה מלאכותית מחייב זהירות מרבית. הניסיון הבריטי מלמד כי המרוץ הטכנולוגי לאימוץ פתרונות מהירים עלול לעלות ביוקר כאשר הוא נעשה ללא הכנה מתאימה ומתוך התעלמות מאזהרות מדעיות. עבור עסקים וארגונים השואפים לייעל את פעילותם, הדרך הנכונה היא שילוב אחראי, הדרגתי ומאובטח של כלים טכנולוגיים, תוך שמירה על עקרונות אתיים, עמידה קפדנית ברגולציה ופיקוח אנושי קבוע.