בעידן שבו רשתות נוירונים עמוקות מניעות את הבינה המלאכותית, הבעיה של 'קופסה שחורה' הופכת למוקד מרכזי. חוקרים מציגים את xDNN(ASP), מערכת חדשה לייצור הסברים גלובליים לרשתות אלה. המערכת לוקחת מודל רשת נוירונים עמוקה ונתוני אימון, ומפיקה תוכנית לוגית תחת סמנטיקת קבוצות תשובה (ASP). במקרה האידיאלי, קבוצות התשובה של התוכנית תואמות אחד לאחד לזוגות קלט-פלט של הרשת. זה מאפשר הבנה עמוקה של ההחלטות הפנימיות של המודל.
xDNN(ASP) שונה משיטות קודמות כמו SHAP, שמתמקדות בחשיבות תכונות סטטיסטית, או חילוץ כללי IF-THEN, שמתעלמות ממבנה הרשת. כאן, המערכת מתייחסת גם למבנה הפנימי, כולל השפעת צמתי התווך על התחזיות. החוקרים מדגימים זאת על שני מערכי נתונים סינתטיים, שם התוכנית הלוגית שומרת על דיוק גבוה במשימת החיזוי. בנוסף, היא חושפת מידע חיוני כמו חשיבות תכונות והשפעת צמתים נסתרים.
היתרון המרכזי הוא היכולת לספק הסברים גלובליים, שתקפים לכל מחלקות הפלט האפשריות, בניגוד להסברים מקומיים שמתמקדים במקרה בודד. xDNN(ASP) משלבת בין גישה סטטיסטית ללוגית, ומאפשרת ניתוח מקיף. לפי הדיווח, זה כולל גם יצירת נגד-עובדות (counterfactuals), אך מתמקד במבנה הרשת עצמה. התוצאות מראות שמידע זה שימושי להבנת המודל.
בהקשר עסקי, הסברים כאלה חיוניים לעמידה בתקנות כמו GDPR באירופה, שדורשות שקיפות ב-AI. בישראל, חברות טק כמו Mobileye משלבות AI ברכבים אוטונומיים, שם הבנת ההחלטות קריטית לבטיחות. xDNN(ASP) יכולה לשפר את אמון הציבור והרגולטורים בטכנולוגיה. היא גם מציעה כלי לאופטימיזציה: זיהוי צמתים מיותרים בהסתרה, להקטנת הרשת ללא איבוד דיוק.
למנהלי עסקים, xDNN(ASP) פותחת דלת לשילוב AI אמין יותר. כדאי לבדוק כיצד ליישם זאת במודלים פנימיים, להפחית סיכונים ולייעל משאבים. מה תהיה ההשפעה על פיתוח AI בישראל?