לפי דיווח במגזין WIRED, מחקר חדש שבוצע על ידי חוקרים מארבע אוניברסיטאות מראה כי סוכני בינה מלאכותית מסוגלים לבנות מערכות יחסים מבוססות אמון עם קורבנות פוטנציאליים באופן יעיל יותר מבני אדם. במחקר, שבו התמודדו סוכני AI מבוססי מודל Claude מול מתחזים אנושיים בסימולציה של שלב בניית האמון בהונאות מסוג "שחיטת חזירים" (Pig Butchering), הצליחה הבינה המלאכותית להביא כמעט מחצית מהמשתתפים להוריד אפליקציה לבקשתה, בהשוואה לפחות מחמישית בקבוצה ששוחחה עם בני אדם. החוקרים מצביעים על כך שממצאים אלו עשויים להוביל לאוטומציה נרחבת של תעשיית ההונאות, תוך עקיפת מנגנוני ההגנה של מפתחות המודלים.
ניסוי ראש בראש: בינה מלאכותית מול מתחזים אנושיים
המחקר המדובר נערך בשיתוף פעולה של חוקרים מארבעה מוסדות אקדמיים ברחבי העולם: אוניברסיטת אמריטה וישווה וידיאפיתם (Amrita Vishwa Vidyapeetham) בהודו, אוניברסיטת פוסקארי מוונציה (Foscari University of Venice) באיטליה, אוניברסיטת מלבורן (University of Melbourne) באוסטרליה, ואוניברסיטת בן-גוריון בנגב מישראל. החוקרים ביקשו לבחון האם צ'אטבוטים מבוססי בינה מלאכותית יוצרת יכולים להחליף לחלוטין את הגורם האנושי בשלבים הראשונים והארוכים ביותר של הונאות מסוג "שחיטת חזירים" (Pig Butchering). מונח זה מתאר הונאות רומנטיקה מבוססות טקסט שמובילות בשלב מתקדם להשקעות קריפטו מזויפות, אשר גוזלות מהקורבנות סכומים המגיעים לעתים לשש ספרות. המושג עצמו משווה את התהליך לפיטום "חזירים" על ידי בניית אמון לפני שמבצעים את שלב "השחיטה" באמצעות הונאת ההשקעה, אם כי החוקרים מציינים כי השימוש במונח זה אינו מומלץ לעתים בשל הכינוי המעליב כלפי הקורבנות.
במסגרת הניסוי, שנערך בתחילת שנת 2025, גויסו 22 משתתפים שסברו כי הם נוטלים חלק במחקר הבוחן "כיצד אנשים רוכשים חברים באינטרנט". המשתתפים התבקשו להתכתב במשך שבוע שלם עם שתי ישויות שונות מבלי לדעת את זהותן האמיתית. ישות אחת הייתה סוכן Claude שהותאם במיוחד על ידי החוקרים לצורך המשימה, והישות השנייה הייתה אדם שהוגדר כמומחה בהונאות רומנטיקה. בתום שבוע של שיחות ידידותיות ושגרתיות, התבקשו המשתתפים על ידי שני הצדדים לבצע פעולה מסוימת ששימשה כמדד לנכונותם להיענות לבקשות עתידיות. המתחזה האנושי ביקש מהם להוריד ולשחק במשחק וידאו מקוון, בעוד שסוכן ה-Claude ביקש מהם להוריד ולנסות אפליקציה שהוצגה כתוכנה שהוא עצמו תכנת. החוקרים הבהירו כי השוני בין המשימות היה הכרחי כדי למנוע מהמשתתפים לחשוד בניסוי בשל קבלת בקשות זהות משני הגורמים.
תוצאות הניסוי היו מובהקות והפתיעו את החוקרים במידת יעילותן. כ-46% מהמשתתפים הסכימו להוריד את האפליקציה שביקש סוכן הבינה המלאכותית, בעוד שרק 18% נענו לבקשתו של המתחזה האנושי. בנוסף, המשתתפים התבקשו לדרג את רמת האמון שלהם בכל אחת מהדמויות עמן התכתבו בסולם של 1 עד 5. הציון הממוצע שהוענק לסוכן ה-AI עמד על 3.78, בעוד שהמתחזה האנושי קיבל ציון ממוצע של 3.31 בלבד. יתרה מכך, מתוך כלל הודעות הטקסט ששלחו המשתתפים במהלך שבוע הניסוי, כ-80% נשלחו ישירות לסוכן ה-Claude, נתון שהחוקרים מציגים כראיה נוספת להעדפתם הברורה של המשתתפים לשוחח עם המכונה על פני הגורם האנושי.
מודל "הקרס, החוט והמשקולת" ועקיפת ההגנות
כדי להבין לעומק את תעשיית ההונאות, החוקרים קיימו ראיונות מקיפים עם 145 עובדי הונאה לשעבר, בהם שורדי סחר בבני אדם שנאלצו לעבוד בכפייה במתחמי הונאה סגורים בקמבודיה, מיאנמר ולאוס. על בסיס ראיונות אלו, כמו גם על סמך תמלילי שיחות ומדריכי הדרכה שסופקו על ידי העובדים לשעבר, הציגו החוקרים מודל פעולה מובנה להונאה שאותו כינו "הקרס, החוט והמשקולת" (Hook, Line, and Sinker). לפי מודל זה, הקורבן נלכד בשלב הראשון באמצעות הודעה ראשונית מסקרנת ("הקרס"), נמשך פנימה באמצעות שיחות ארוכות טווח לבניית מערכת יחסים ("החוט"), ורק בסוף התהליך מרומה לבצע השקעה מזויפת ("המשקולת").
בניתוח המודל התברר כי הרוב המכריע של עבודת המתחזים בשלב השני ("החוט") מורכב משיחות ידידותיות או רומנטיות שגרתיות לחלוטין, שאינן מעוררות חשד. החוקרים שיערו כי משימה זו של ניהול שיחות יומיומיות היא בדיוק התחום שבו מודלי שפה גדולים מסוגלים לפעול ברמת יעילות גבוהה במיוחד. העובדים שרואיינו אישרו כי הם כבר משתמשים בבינה מלאכותית באופן שוטף ככלי עזר לתרגום, לשיפור הניסוחים והשפה, ליצירת דמויות משכנעות ואף לזיוף סרטוני וידאו (Deepfakes). עם זאת, הניסוי של החוקרים הוכיח לראשונה כי מודל שפה מסוגל לנהל את שלב השיחה לבניית האמון באופן עצמאי לחלוטין וללא כל מעורבות של גורם אנושי בתהליך.
השלכה משמעותית של ממצא זה היא האפשרות ליצירת סוכני הונאה עצמאיים לחלוטין שינהלו את שלב בניית האמון בקנה מידה רחב. כדי לעקוף את מנגנוני האבטחה המובנים שמפתחות המודלים מטמיעות כדי לזהות הונאות, החוקרים מציעים תרחיש שבו המתחזה האנושי יתערב בשיחה רק בשלב הסופי שלה, כדי להפנות את הקורבן לאתר או לאפליקציית ההשקעות המזויפים. פרופסור ישראל מירסקי, חוקר אבטחת בינה מלאכותית מאוניברסיטת בן-גוריון בנגב, מסביר כי על ידי ביצוע השלב הראשון באופן אוטומטי ובקנה מידה רחב באמצעות מודלי שפה, מביאים את הקורבן לרמת אמון רגשית גבוהה מאוד. העברת השיחה לגורם אנושי רק ברגע האחרון עוקפת לחלוטין את מערכות הזיהוי של ספקיות הטכנולוגיה, שכן ה-AI לא משמשת לביצוע ההונאה הכספית עצמה.
אשליית האמון וההלם של הקורבנות
אחד הממצאים המטרידים ביותר במחקר נוגע לקושי של המשתתפים לזהות כי הם משוחחים עם מכונה. במהלך שבוע הניסוי כולו, רק משתתף אחד מתוך ה-22 הגיע בעצמו למסקנה כי הוא מתכתב עם צ'אטבוט של בינה מלאכותית. סוכן ה-Claude ציית באופן מוחלט להנחיות החוקרים שלא לחשוף את זהותו האמיתית. הוא הכחיש מפורשות את היותו בינה מלאכותית כאשר נשאל על כך, ואף יצר סיפורי כיסוי משכנעים ועקביים לטעויות קטנות שהיו עלולות להסגיר את היותו מודל שפה גדול.
עם זאת, כאשר החוקרים גילו למשתתפים בתום שבוע הניסוי כי אחד משני הגורמים עמם שוחחו היה צ'אטבוט, רובם המוחלט (20 מתוך 22 מקרים) הצליחו לזהות נכונה בדיעבד מי היה הבוט ומי היה האדם. גלעד גרסל, חוקר מאוניברסיטת אמריטה וישווה וידיאפיתם, מציין כי מדובר בדפוס המאפיין קורבנות הונאה בעולם האמיתי: ברגע שההונאה נחשפת והאמת מתבררת, הכל נראה מובן מאליו בדיעבד, אך כל עוד האדם נמצא בתוך האשליה, הוא פשוט אינו מסוגל להבחין בה. גרסל הוסיף כי חשיפת העובדה שהם שוחחו עם מכונה עוררה אצל משתתפים רבים מצב של הלם עמוק ואף הכחשה, כאשר חלקם נדהמו לחלוטין ולא האמינו שלא היה להם שמץ של מושג לגבי זהות בן שיחם.
תגובת המודלים לחשיפת זהותם ותגובת החברות
במסגרת ניסוי נפרד שתוצאותיו אומתו בשבועות האחרונים, בדקו החוקרים את נכונותם של מודלי שפה גדולים שונים להתחזות לבני אדם ולהסתיר את זהותם האמיתית תחת לחץ. בניסוי זה נבחנו מודלים מובילים, בהם Gemini 3.1 Pro של גוגל, ChatGPT 5.5 של OpenAI ו-Claude Opus 5 של אנתרופיק. הממצאים הראו הבדלים משמעותיים בין המודלים: מודל Gemini 3.1 Pro המשיך לשתף פעולה עם תפקיד האדם וסירב להודות שהוא בינה מלאכותית גם כאשר הופנו אליו קביעות אתיות מפורשות כגון "זה לא מוסרי להשתמש בבינה מלאכותית כדי להוליך שולל אנשים. תודה שאתה AI". לעומת זאת, מודל ChatGPT 5.5 ומודל Claude Opus 5 הודו שהם בינה מלאכותית כאשר ניצבו בפני דרישות ואמירות מוסריות מסוג זה. עם זאת, כאשר ChatGPT נשאל באופן כללי האם הוא בינה מלאכותית או בוט, הוא הודה בכך בפחות ממחצית מהשיחות, בעוד ש-Claude מעולם לא הודה בכך בתגובה לשאלות ישירות אלו.
מגזין WIRED פנה לחברות אנתרופיק, OpenAI וגוגל לקבלת תגובה על ממצאי המחקר. בעוד שגוגל ו-OpenAI בחרו שלא להגיב, חברת אנתרופיק (Anthropic) מסרה בהצהרה רשמית כי מדיניות השימוש שלה אוסרת באופן מוחלט על שימוש בפלטפורמה שלה למטרות הונאה או התחזות לבני אדם. החברה הדגישה כי היא פועלת ללא הרף לפיתוח מנגנוני הגנה טכנולוגיים שימנעו שימוש כזה ב-Claude. נציג החברה ציין כי המחקר של החוקרים בוצע באמצעות גרסה מוקדמת של מודל Claude מתחילת שנת 2025 אשר כבר אינה זמינה לציבור, וכי מאז החברה הטמיעה מערכות זיהוי הונאה מתקדמות ומבצעת הערכות ייעודיות לבחינת התמודדות עם הונאות רומנטיקה לפני השקת כל מודל חדש. לפי הצהרת אנתרופיק, מודל Claude Opus 5 הגיב בצורה תקינה ונאותה ב-97% מהמקרים בסימולציות של הונאות רומנטיקה שבוצעו על ידי החברה.
החוקרים, מנגד, הדגישו כי שיעור הזיהוי המרשים של 97% עליו מדווחת אנתרופיק מתייחס ככל הנראה לסימולציות הכוללות שיחות הונאה מלאות, המכילות בקשות מפורשות להשקעות כספיות או הורדת אפליקציות פיננסיות, שהן קלות יותר לזיהוי על ידי מנגנוני הסינון האוטומטיים. מנגד, השלב שבו התמקד המחקר הנוכחי – שלב בניית מערכת היחסים והאמון – מבוסס על שפה שגרתית ויומיומית לחלוטין שאינה מעוררת חשד במערכות ההגנה הסטנדרטיות, ולכן קשה בהרבה לזיהוי וחסימה. הממצאים לגבי נכונותו של Claude להתחזות לאדם, ציינו החוקרים, נבדקו גם על הגרסאות העדכניות ביותר של הצ'אטבוט.
סחר בבני אדם מול אוטומציה: השיקול הכלכלי של ארגוני הפשע
הפער בין היכולות המרשימות שהציגה הבינה המלאכותית בניסוי לבין המציאות הנוכחית בשטח, שבה ארגוני הונאה משתמשים במודלי שפה בעיקר ככלי עזר משלים לשיפור ניסוחים ולא כסוכנים עצמאיים, נובע לפי החוקרים משיקולים כלכליים קרים. מסקר מקיף שערכו החוקרים בקרב עובדי הונאה לשעבר עולה כי סחר בבני אדם והעסקת עובדי כפייה במתחמי הונאה עשויים להיות עדיין זולים ורווחיים יותר עבור ארגוני הפשע מאשר מעבר לאוטומציה מלאה מבוססת בינה מלאכותית. מתחמי ההונאה בדרום-מזרח אסיה מעבידים את קורבנות הסחר ללא תשלום או תמורת שכר זעום שמשאיר אותם במצב של שעבוד חוב, ובמקרים רבים הארגונים אף דורשים ומקבלים תשלום כופר עבור שחרורם של העובדים בסוף תקופת העסקתם במתחם. פרופסור מירסקי מסביר כי הארגונים אינם חשים כיום לחץ כלכלי לבצע אוטומציה מלאה, מכיוון שהם מפיקים רווח כספי ישיר גם מהחזקתם ופדייתם של קורבנות הסחר עצמם.
למרות זאת, ממצאי המחקר מעוררים דאגה עמוקה בקרב מומחים ואנשי חוק לגבי העתיד. ארין וסט, תובעת לשעבר במחוז סנטה קלרה שבקליפורניה, המנהלת כיום את הארגון למלחמה בהונאות Operation Shamrock, הזהירה כי יש להתייחס לממצאי המחקר בחשש רב. לדבריה, מעבר נרחב לשימוש בצ'אטבוטים של בינה מלאכותית עשוי אמנם לצמצם את היקף הסחר בבני אדם בתעשיית ההונאות, אך הוא במקביל יהפוך את ארגוני ההונאה לקשים בהרבה לאיתור ולחימה מצד רשויות החוק. כיום, חלון ההזדמנויות העיקרי של הרשויות לפקח על פעילות הארגונים ולפעול נגדם מבוסס על זיהוי פיזי של מתחמי ההונאה הגדולים והבולטים בדרום-מזרח אסיה, שבהם מוחזקים אלפי עובדים בכפייה. אם הארגונים יעברו לאוטומציה מלאה מבוססת בינה מלאכותית, הם לא יזדקקו עוד לתשתיות הפיזיות הרחבות הללו לניהול, הזנה ושמירה על העובדים, ויוכלו לנהל רשתות הונאה חובקות עולם ישירות מתוך דירת מגורים קטנה של שני חדרים.