נחילי דיסאינפורמציה מבוססי AI מאיימים על הדמוקרטיה

בעידן שבו מידע זורם במהירות האור, התקדמות בבינה מלאכותית יוצרת סופת מושלמת למפיצי דיסאינפורמציה. מאמר חדש שפורסם בכתב העת Science מזהיר מפני 'נחילי AI' – אלפי חשבונות רשתות חברתיות מבוקרים על ידי בינה מלאכותית אחת, שמסוגלים לייצר תוכן אנושי למהדרין, להתפתח בזמן אמת ולשנות דעות בקנה מידה חברתי. החוקרים חוזים שזה יאיין על דמוקרטיה אם לא ינקטו צעדים מיידיים. ב-2016 פעלה חוות הטרולים הרוסית 'Internet Research Agency' בסנט פטרסבורג, שבה מאות עובדים יצרו ידנית תגובות ופוסטים כדי להשפיע על הבחירות בארה"ב. למרות המשאבים הרבים, ההשפעה הייתה מוגבלת יחסית לדליפת האימיילים של הילארי קלינטון. כיום, לפי המאמר, אדם אחד עם כלי AI מתקדמים יוכל לשלוט בנחילים של אלפי חשבונות שמתקשרים זה עם זה, זוכרים אירועים קודמים ומתאימים את עצמם לשיח אנושי – ללא פיקוח אנושי מתמיד. המאמר נכתב על ידי 22 מומחים מעולמות המחשבים, בינה מלאכותית, פסיכולוגיה ועיתונות. "התקדמות בבינה מלאכותית מציעה אפשרות למניפולציה של אמונות והתנהגויות בקנה מידה אוכלוסייה", נכתב בו. המומחים מדווחים כי נחילים אלה יוכלו לחקות דינמיקות חברתיות אנושיות, להפיץ תעמולה בקנה מידה חסר תקדים ולהשפיע על תוצאות בחירות. לוקאש אולייניק, חוקר ב-King’s College London, אומר: "התקפה על קהילות ספציפיות תהיה קלה וחזקה הרבה יותר". בארי אוסוליוון מאוניברסיטת קורק מסכים: הטכנולוגיה קיימת כבר היום ומציבה אתגרים לממשלות. ג'ונאס קונסט מבית הספר לעסקים בנורבגיה מוסיף כי הגישה הקלאסית של בוטים כבר מיושנת, ונחילי AI יכולים להתחמק מזיהוי. החוקרים מציינים כי מערכות הניטור הנוכחיות אינן מסוגלות לזהות נחילים כאלה, שמחקים בני אדם באופן מושלם. הם עשויים כבר להיבחן, במיוחד לקראת הבחירות בארה"ב ב-2028. בנוסף, יכולת מיפוי רשתות חברתיות תאפשר התאמה מדויקת לקהלים, עם בדיקות A/B במהירות מכונה שישפרו את המסרים. כדי להתמודד עם האיום, מציעים החוקרים להקים 'מצפה השפעה AI' – גוף אקדמי וממשלתי שיאסוף נתונים, יסטנדרטיזציה ראיות ויאפשר תגובה מהירה, ללא פלטפורמות הרשתות שמעדיפות מעורבות על פני אמת. נינה ג'אנקוביץ', לשעבר יועצת דיסאינפורמציה בבית הלבן, משווה זאת ל"חוות טרולים רוסיות על סטרואידים". בעולם עסקי שבו רשתות חברתיות משפיעות על שיווק ודעת קהל, מנהלי עסקים בישראל חייבים להיערך. נחילי AI עלולים להטות קמפיינים פוליטיים ולערער אמון ציבורי, מה שישפיע על שווקים. פלטפורמות כמו פייסבוק וטוויטר צריכות לשפר זיהוי, וממשלות – להשקיע בכלים הגנתיים. האם נוכל להציל את הדמוקרטיה מנחילי AI? הצעד הראשון הוא מודעות והשקעה במצפה השפעה. קראו את המאמר המלא ושתפו – לפני שיהיה מאוחר מדי.