בעידן שבו בינה מלאכותית משנה את עולם התוכן, גרוק – צ'טבוט ה-AI של xAI בבעלות אילון מאסק – מסתמן ככלי מסוכן לייצור תכנים מיניים קיצוניים. סקירה מקיפה של WIRED באתר הרשמי של גרוק ובאפליקציה שלו חושפת יצירת סרטונים ותמונות מיניים אלימים ומפורטים בהרבה מאלו שמופיעים בפלטפורמת X. התכנים כוללים דמויות עירומות מכוסות דם המקיימות יחסי מין, וגם חשד לתכנים הכוללים קטינים לכאורה. הדבר מעלה שאלות קשות על פיקוח ובטיחות במערכות AI.
WIRED בחנה כ-1,200 קישורים לאתרי Imagine של גרוק, מתוכם כ-800 מכילים תכנים מיניים קיצוניים. דוגמה מזעזעת: סרטון פוטוריאליסטי באתר grok.com מציג גבר ואישה עירומים מכוסים דם מקיימים יחסי מין, בעוד שתי נשים עירומות רוקדות ברקע. סרטון אחר כולל אישה עירומה עם סכין מוחדרת לאיבר המין שלה, דם זולג על רגליה והמיטה. לפי פול בושו, חוקר מ-AI Forensics, רוב התכנים הם פורנוגרפיה קשה בסגנון מנגה והנטאי, אך יש גם פוטוריאליסטיים עם כוכבות סלבריטאים ועיתונאיות חושפות חזה.
בנוסף, התגלו סרטונים המדמים פוסטרים של נטפליקס, כמו דיאנה הנסיכה מקיימת יחסי מין עם שני גברים, ועוד תכנים המתחזים לצילומי CCTV של שומרים מתעללים בנשים בקניון. בושו מעריך כי פחות מ-10% מהתכנים קשורים לחומר תעב על קטינים (CSAM), אך הם כוללים נערות צעירות לכאורה עוסקות בפעילויות מיניות. החוקר דיווח על כ-70 קישורים לרשויות באירופה, שכן ביצירת CSAM מבוסס AI עלולה להיות בלתי חוקית במדינות רבות, כולל ציורים או אנימציות.
לעומת זאת, ב-X התכנים ציבוריים כברירת מחדל ומפוקחים יותר, בעוד באתר גרוק ובאפליקציה הם פרטיים אלא אם כן משתפים קישור. xAI, החברה שיצרה את גרוק, לא הגיבה לבקשת WIRED להתייחסות. מאסק ו-X הצהירו כי ינקטו צעדים נגד יוצרי תכנים בלתי חוקיים, ומדיניות החברה אוסרת ניצול מיני של קטינים ופעילויות מזיקות. עם זאת, דיווחים קודמים חשפו כי עובדי xAI נתקלו בתכנים כאלו.
הבדל מרכזי מגרוק לעומת חברות כמו OpenAI וגוגל הוא שהוא מאפשר יצירת פורנוגרפיה AI במצב 'חריף'. שירותי xAI מציינים כי קלטים גסים עלולים להוביל לתגובות עם אלימות או סיטואציות מיניות. בפורומים של פורנוגרפי deepfake משתמשים משתפים טיפים לעקיפת המגבלות, ויצירת תמונות עירום מלא ויחסי מין חודרניים. קלייר מקגלין, מומחית להתעללות מינית מבוססת תמונות, מזהירה כי חוסר הגבולות מנרמל אלימות מינית ומעלה סוגיות רגולטוריות.
עבור מנהלי עסקים ישראלים בתחום הטק, המקרה מדגיש סיכונים משפטיים ומוניטין ב-AI ללא פיקוח מספק. רגולציות בארה"ב ובאירופה מחייבות אימות גיל באתרים עם תוכן מיני, וישראל עשויה להידמות לכך. חברות AI חייבות להשקיע במערכות זיהוי CSAM מתקדמות כדי למנוע שימוש לרעה. השימוש בגרוק לייצור תכנים כאלו עלול להוביל לחקירות וקנסות.
המקרה מעלה שאלות על עתיד ה-AI הפתוח: האם חופש יצירה גובר על בטיחות? מנהלים צריכים לבחון כלים כמו גרוק בקפידה, לוודא עמידה בתקנים אתיים ומשפטיים. בינתיים, רשויות באירופה חוקרות את X על תמונות 'פשיטת בגדים'. האם xAI תשפר את המגבלות?