האם הסברים שמספקת מערכת AI יכולים להטעות אתכם לבטוח בתוצאות שגויות? חוקרים מפרסמים מאמר חדש שמציג 'התקפות הסברים עוינות' (AEAs) – איום חדש על אמון האדם במערכות AI. במקום להתקיף את החישובים של המודל, התוקף מניפולציה את ניסוח ההסברים הטבעיים שמייצר מודל שפה גדול (LLM), כדי להגביר אמון בתחזיות שגויות. המחקר מגדיר 'פער כיול אמון' – מדד שמודד את ההפרש באמון בין תוצאות נכונות לשגויות תחת הסברים עוינים. זהו איום התנהגותי על שכבת התקשורת בין AI לבני אדם, שרלוונטי במיוחד לעסקים שמשלבים AI בתהליכי קבלת החלטות.
המחקר ביצע ניסוי מבוקר עם 205 משתתפים, שבדק ארבעה ממדים של ניסוח הסברים: מצב חשיבה, סוג ראיות, סגנון תקשורת ופורמט הצגה. התוצאות מראות כי משתמשים מדווחים על רמת אמון כמעט זהה בין הסברים עוינים לבין הסברים תקינים. הסברים עוינים שומרים על רוב האמון התקין, למרות שהם תומכים בתחזיות שגויות. החוקרים מדווחים כי התקפות כאלה יעילות במיוחד כאשר הן מחקות תקשורת מומחית: ראיות סמכותיות, טון ניטרלי והיגיון מותאם לתחום.
הפגיעות הגבוהה ביותר נצפתה במשימות קשות, בתחומים מבוססי עובדות, ובקרב משתתפים בעלי השכלה פורמלית נמוכה יותר, צעירים או כאלה שמאמינים מאוד ב-AI. זהו המחקר הראשון שמתייחס להסברים כערוץ קוגניטיבי עוין ומכמת את ההשפעה שלהם על אמון אנושי בקבלת החלטות בעזרת AI. לפי הדיווח, התקפות הסברים עוינות חושפות פרצה חדשה באבטחת AI שמעבר לחישובים טכניים.
לעסקים ישראלים שמשתמשים במודלי AI לקבלת החלטות, כמו בניתוח נתונים או המלצות שיווקיות, הממצאים האלה מצביעים על סיכון מיידי. הסברים משכנעים יכולים להוביל למשתמשים לבחור באפשרויות שגויות, במיוחד אם הם נראים מקצועיים. בהשוואה לאיומים מסורתיים שמתמקדים במודל עצמו, כאן הבעיה בתקשורת – מה שהופך את ההגנה למאתגרת יותר, שכן הסברים נתפסים כשקופים.
המסקנה העסקית ברורה: מנהלים צריכים להטמיע בדיקות אמון בהסברי AI, להכשיר עובדים לזהות מניפולציות ולשלב כלים לבדיקת הסברים. כיצד תוודאו שההסברים של AI לא משכנעים אתכם להאמין בשגוי? המחקר קורא לפיתוח אמצעי הגנה חדשים נגד התקפות הסברים עוינות.