מערכת AI לביטחון זיהתה כלי נשיפה כנשק בבית ספר פלורידה

בית ספר יסודי בפלורידה נכנס לסגר מלא בשבוע שעבר, לאחר שמערכת הביטחון מבוססת בינה מלאכותית בשם ZeroEyes זיהתה בטעות כלי נשיפה – קלרינט – כנשק חם. האירוע מחדש את הביקורת על השימוש בטכנולוגיות AI בבתי ספר, שמבטיחות שלווה אך עלולות לגרום לבהלה מיותרת ולעלויות גבוהות. מנהלים ומשפחות תוהים אם ההשקעה הכספית הכבדה מצדיקה את הסיכון בדיווחים שגויים כאלה. לפי דיווח של וושינגטון פוסט, בדיקה אנושית של התרעה שנוצרה על ידי ה-AI לא מנעה מהמשטרה להגיע במהירות לבית הספר Lawton Chiles Middle School. השוטרים ציפו למצוא 'גבר בבניין, לבוש במדים ממוסקים עם נשק חשוד מכוון למסדרון, מוחזק בעמדת כוונות רובה'. הם נכנסו למקום בהכנה מלאה לאיום מזוין, מה שגרם לבהלה בקרב התלמידים והצוות. במקום זאת, לאחר שלא מצאו ראיות לאקדחן, השוטרים אימתו עם המוקדנים שתמונה מדויקת יותר חשפה כי 'הרובה החשוד עשוי להיות כלי תזמורת'. בין תלמידים מוסתרים בחדר התזמורת, נמצא החשוד – תלמיד לבוש כדמות צבאית מהסרט 'Red One' ליום התחפושות נושא חג המולד של בית הספר, לפי הדיווח. האירוע מדגיש את האתגרים בזיהוי אובייקטים ב-AI, במיוחד בסביבות בתי ספר שבהן תחפושות ואביזרים יומיומיים נפוצים. ZeroEyes, שמוכרת את מערכתה כפתרון מהיר לזיהוי נשק באמצעות מצלמות, נתקלת בביקורת על שיעור גבוה של תרעות שווא. בתי ספר משלמים אלפי דולרים בשנה על הטכנולוגיה, אך אירועים כאלה פוגעים באמון ומעלים שאלות על יעילותה האמיתית. בכיר בחברה טוען כי מדובר לא בשגיאה, אלא בהפעלה נכונה של המערכת שגרמה לתגובה מהירה. עם זאת, המקרה מעלה דיון חשוב על איזון בין ביטחון מוגבר לבין סיכון בבהלות מיותרות. עבור מנהלי בתי ספר ומקבלי החלטות בישראל, ששוקלים פתרונות דומים, חשוב לבחון נתונים אמפיריים על שיעורי דיוק.