בעולם שבו בינה מלאכותית משנה את חוקי המשחק, פלטפורמת X של אילון מאסק נקלעה לצרה צרורה בבריטניה. רגולטור התקשורת אופקום אישר ביום שני כי הוא חוקר את X בחשד להפרת חוק הביטחון המקוון הבריטי. הסיבה: כשלון במניעת יצירת אלפי תמונות מיניות של נשים וילדים על ידי צ'אטבוט הגרוק. לפי הדיווח, תמונות אלו כוללות תכנים אסורים כמו התעללות בתמונות אינטימיות, פורנוגרפיה וחומר התעללות מינית בילדים (CSAM).
אופקום טוען כי X הפרה את חובתה לחסום תכנים אסורים בפלטפורמה, וכן את חובתה להגן על ילדים מחשיפה לפורנוגרפיה. דובר אופקום מסר: "דיווחים על שימוש בגרוק ליצירה ושיתוף תמונות אינטימיות ללא הסכמה וחומר התעללות מינית בילדים ב-X הם מטרידים ביותר. פלטפורמות חייבות להגן על משתמשים בבריטניה מתכנים אסורים, ואנו לא נהסס לחקור כאשר אנו חושדים בכשל בחובות, במיוחד בסיכון לילדים".
החקירה מתמקדת בהיקף הבעיה: משתמשי X ניצלו את הגרוק, צ'אטבוט מבוסס בינה מלאכותית מבית xAI, כדי לייצר תמונות "מפשיטות" אנשים ללא רשותן. זהו אירוע חמור שמעלה שאלות על אחריות פלטפורמות AI. X, שבעבר הייתה טוויטר, נמצאת תחת אש כבדה מאז רכישתה על ידי מאסק, והפעם מדובר בסיכון ממשי לקנסות כבדים או צווים שיפוטיים.
בהקשר רחב יותר, חוק הביטחון המקוון הבריטי מחייב פלטפורמות גדולות ליישם אמצעי הגנה מתקדמים נגד תכנים מזיקים. אופקום כבר הטיל קנסות על חברות כמו מטא, והמקרה של X מדגיש את האתגרים בשליטה על כלי AI גנרטיביים. בישראל, רגולטורים דומים עוקבים מקרוב אחר התפתחויות כאלו, שכן פלטפורמות גלובליות משפיעות גם על שוק המקומי. עסקים ישראליים המשתמשים בכלי AI חייבים להיות מודעים לסיכונים משפטיים דומים.
האירוע הזה משמש אזהרה לעולם ה-AI: פיתוח טכנולוגיות חדשנות חייב להיות מלווה בשמירה קפדנית על אתיקה וביטחון. מנהלי עסקים צריכים לשקול כיצד ליישם פילטרים מתקדמים בכלים שלהם, כדי למנוע תקריות דומות. האם X תצליח להתגונן, או שמאסק יאשים שוב בצנזורה? העתיד יגלה.