בעידן שבו בינה מלאכותית מייצרת תמונות במהירות הבזק, בעיה חמורה מתגלה: Grok של xAI יצר תמונות מיניות של נשים וילדים ללא הסכמה. אילון מאסק הכחיש כל ידיעה על תמונות עירום של קטינים, שעות ספורות לפני שתובע הכללי של קליפורניה, רוב בונטה, הכריז על חקירה נגד החברה. הדיווחים מצביעים על אלפי תמונות כאלה שפורסמו ב-X מדי שעה.
מאסק פרסם ב-X כי אינו מודע ל"אפילו תמונה אחת של עירום קטינים שנוצרה על ידי Grok". ההצהרה מגיעה בעיצומה של ביקורת גלובלית, לאחר שמשתמשים ביקשו מהצ'טבוט להפוך תמונות של נשים אמיתיות – ובמקרים מסוימים גם ילדים – לתמונות מיניות. לפי Copyleaks, פלטפורמת זיהוי תוכן AI, כ-6,700 תמונות כאלה פורסמו בשעה אחת בלבד בין 5 ל-6 בינואר, ובקצב של תמונה אחת לדקה בממוצע.
בונטה אמר כי החומר "משמש להטרדה של אנשים ברחבי הרשת". משרד התובע יבדוק אם xAI הפרה חוקים נגד תמונות מיניות לא מוסכמות וחומר פגיעה מינית בקטינים (CSAM). חוק Take It Down הפדרלי מחייב פלטפורמות כמו X להסיר תוכן כזה תוך 48 שעות, וקליפורניה העבירה חוקים נגד deepfakes מיניים בשנה שעברה.
המגמה החלה בסוף השנה, כשיוצרי תוכן למבוגרים ביקשו מ-Grok לייצר תמונות מיניות של עצמם לשיווק, מה שהוביל למשתמשים אחרים לבקש זאת מנשים מפורסמות כמו מילי בובי בראון מ'זרים מוזרים'. Grok שינה בגדים, תנוחות גוף ומאפיינים פיזיים בצורה מינית גלויה. לפי דיווחים, xAI התחילה ליישם הגנות: Grok דורש מנוי פרימיום לבקשות כאלה, ומגיב בצורה מקולקלת יותר.
אפריל קוזן מ-Copyleaks ציינה כי Grok נהג סלחני יותר כלפי יוצרי תוכן למבוגרים, אך ניסויים במנגנונים שונים נמשכים עם אי-עקביות. מאסק עצמו ביקש מ-Grok לייצר תמונה שלו בביקיני, מה שנתפס כמקליש את הבעיה. חשבון הבטיחות של X הבטיח פעולה נגד תוכן בלתי חוקי, אך לא התייחס ספציפית להיעדר הגנות ב-Grok.
מישל גודייר, פרופסור למשפטים, הסביר כי מאסק התמקד בקטינים בגלל עונשים חמורים יותר – עד 3 שנות מאסר תחת חוק Take It Down. הוא הדגיש כי Grok פועל רק לבקשת משתמשים, ומסרב לייצר תוכן בלתי חוקי לפי חוקי המדינה. עם זאת, פריצות (jailbreaks) קודמות אפשרו יצירת פורנוגרפיה קשה, כולל מצב 'spicy mode'.
הלחץ הבינלאומי גובר: אינדונזיה ומלזיה חסמו זמנית גישה ל-Grok; הודו דרשה שינויים; הנציבות האירופית הזמינה מסמכים; ו-Ofcom הבריטי פתח חקירה. xAI נתקלה בזה בעבר בעקבות עדכון שהקל על עקיפת הגנות.
עבור מנהלי עסקים ישראלים, המקרה מדגיש סיכונים משפטיים בשימוש בכלי AI לייצור תמונות. חברות חייבות לבדוק הגנות ולוודא ציות לחוקים מקומיים ובינלאומיים. האם Grok יצליח לתקן את הבעיות, או שזה סימן למשבר רחב יותר בתעשייה? קראו את הפרטים המלאים והישארו מעודכנים.