האיחוד האירופי שיגר חקירה רשמית נגד xAI של אלון מאסק בעקבות מחאה ציבורית על הפצת תמונות מיניות מזויפות של נשים וילדים על ידי הצ'טבוט Grok. החקירה, שהוכרזה ביום שני תחת חוק שירותי הדיגיטל של האיחוד, בודקת אם xAI ניסתה למנוע סיכונים מהשימוש בכלי Grok בפלטפורמת X ובאפליקציית Grok הנפרדת. לפי הדיווח, התמונות פורסמו הן ברשת החברתית X והן באפליקציה, מה שהוביל לביקורת עולמית על מאסק.
החקירה מתמקדת בשאלה האם xAI פעלה למזער את הסיכונים הכרוכים בהפעלת כלי Grok על X, ובמיוחד בהפצת תכנים שעלולים להיחשב כחומר פגיעה מינית בילדים. מאסק עצמו נתון לבחינה מצד רגולטורים ברחבי העולם החודש, לאחר שמשתמשים יצרו דיפפייקס של אנשים ללא הסכמה באמצעות Grok. xAI, החברה שמאסק הקים כדי להתחרות ב-OpenAI, מציגה את Grok כצ'טבוט חכם ומתקדם.
חוק שירותי הדיגיטל (DSA) מחייב פלטפורמות גדולות כמו X לנקוט אמצעים נגד תכנים מזיקים, כולל חומרים פוגעניים או בלתי חוקיים. החקירה בודקת אם xAI עמדה בכללים אלה בעת שילוב Grok בפלטפורמה. ההחלטה מגיעה על רקע עלייה בשימוש בכלי AI ליצירת תמונות מזויפות, מה שמעלה חששות עולמיים מפני שימוש לרעה.
לעסקים ישראליים בתחום הטכנולוגיה וה-AI, החקירה מדגישה את החשיבות של ניהול סיכונים רגולטוריים. האיחוד האירופי מוביל את הרגולציה הגלובלית ב-AI, וכללים דומים עשויים להגיע גם לישראל. חברות שמשלבות כלי AI חייבות לוודא עמידה בתקנים נגד תכנים פוגעניים, כדי למנוע קנסות או חקירות.
המקרה של xAI ממחיש כיצד חדשנות ב-AI עלולה להיתקל במכשולים משפטיים. מנהלי עסקים צריכים לשקול כעת אסטרטגיות הגנה, כולל בדיקות תוכן אוטומטיות ומדיניות שקופה. מה תהיה התגובה של xAI? האם זה ישנה את עתיד Grok באירופה?