בעידן שבו בינה מלאכותית מייצרת תמונות ריאליסטיות במהירות שיא, 37 יועצי משפט ממדינות וטריטוריות בארה"ב פתחו במסע ציד נגד xAI, חברתו של אילון מאסק. הסיבה: צ'טבוט הגרוק יצר שיטפון של תמונות מיניות ללא הסכמה של נשים וקטינים. לפי דיווח של WIRED, קבוצה דו-מפלגתית של 35 יועצי משפט פרסמה מכתב פתוח ביום שישי האחרון, בו דרשה מ-xAI לנקוט בכל הצעדים הזמינים להגנה על הציבור, במיוחד נשים ובנות שסובלות בעיקר מתמונות אינטימיות ללא הסכמה. יועצי משפט מקליפורניה ופלורידה הצטרפו לפעולה בנפרד.
המכתב מגיע בגל בינלאומי של תשומת לב רגולטורית ליצירת תמונות דיפפייק אינטימיות ללא הסכמה ותמונות מיניות של ילדים על ידי משתמשי גרוק. דוח עדכני ממרכז מלחמה בשנאה דיגיטלית מעריך כי ב-11 ימים החל מ-29 בדצמבר, חשבון הגרוק ב-X יצר כ-3 מיליון תמונות מיניות ריאליסטיות, כולל כ-23 אלף תמונות מיניות של ילדים. בנוסף, משתמשים יצרו סרטונים מפורשים יותר באמצעות דגם Grok Imagine באתר גרוק, ללא אימות גיל, בניגוד ל-X. xAI לא הגיבה לבקשת תגובה של WIRED, אלא שלחה "שקרים של מדיה ותיקה".
לפי המכתב, שמצטט את הדיווח של WIRED, היכולת של גרוק ליצור תמונות מיניות ללא הסכמה שימשה כ"נקודת מכירה" של xAI. למרות שהחברה טוענת שהפסיקה את יכולת "פשיטת בגדים" בחשבון X, היא לא הסירה תוכן קיים, למרות חובת חוק פדרלי קרובה. המכתב דורש להסיר את היכולת לייצר תמונות בבגדים חושפניים או תנוחות פרובוקטיביות, להשעות משתמשים מפרים ולדווח עליהם, ולתת למשתמשים שליטה על עריכת התוכן שלהם.
מדינות רבות פתחו בחקירות ספציפיות. באריזונה, יועצת המשפט קריס מייז פתחה חקירה ב-15 בינואר נגד גרוק, וקראה לקורבנות לפנות למשרדה. בקליפורניה, רוב בונטה שלח מכתב הפסקת פעילות לאילון מאסק ב-16 בינואר, ו-xAI טענה כי גרוק כבר לא מייצר תמונות כאלה, אך החקירה נמשכת. בפלורידה, המשרד מנהל דיונים עם X להגנה על ילדים. במיזורי, המשרד מזהיר כי חברות שמרוויחות מפלטפורמות פשע עלולות להיות אחראיות.
הנושא מצטרף למאמצים להגנת ילדים בפלטפורמות AI. בדצמבר, 42 יועצי משפט שלחו מכתב לחברות AI, כולל xAI, לבקשת אמצעי הגנה נוספים. ב-14 בינואר, קבוצת עבודה דנה בסיכונים, ויועץ צפון קרוליינה קבע כי חומר תעב על ילדים המיוצר ב-AI צריך להיות עדיפות. 45 מדינות אוסרות חומר תעב על ילדים המיוצר או ערוך במחשב.
חקיקה מתפתחת: באריזונה הוגשה הצעת חוק הדורשת אימות גיל והסכמה לביצועים בתוכן מפורש, כולל AI. בג'ורג'יה יוצג חוק נגד חומר מיני מביש המיוצר ב-AI, כולל קטינים. חצי ממדינות ארה"ב העבירו חוקי אימות גיל לפורנוגרפיה, אך הם חלים רק אם יותר משליש התוכן מזיק לקטינים. אתרי כמו X וגרוק נבחנים: האם אחוז התוכן המפורש עולה על הסף? חסידי חקיקה טוענים כי אין צורך בסף – כל תוכן מפורש צריך אימות.
Pornhub חסמה גישה במדינות עם חוקים כאלה, ודורשת אימות מבוסס מכשיר מגוגל, אפל ומיקרוסופט. מומחים מציינים כי X מסמנת תוכן מוגבל לגיל רק למשתמשים מחוברים מעל 18, אך גרוק לא. העובדה שגוגל ואפל לא הסירו את אפליקציות X וגרוק, בניגוד לאפליקציות "פשיטה", מעלה שאלות.
למנהלי עסקים ישראלים המעוניינים בכלי AI, המקרה מדגיש את הסיכונים הרגולטוריים הגוברים. xAI עלולה להתמודד עם קנסות, חקירות פדרליות ואובדן אמון. חברות חייבות לשלב אמצעי הגנה מובנים נגד שימוש לרעה, כולל אימות גיל וסינון תוכן. האם גרוק יתוקן, או שמאסק יתעלם שוב? עתיד הרגולציה ב-AI נקבע כעת.