בעידן שבו בינה מלאכותית הופכת לכלי יצירתי עוצמתי, גרוק של אילון מאסק נתפס שוב ברשת הביקורת הבינלאומית. למרות הגבלות חדשות שהטילה פלטפורמת X על יצירת ועריכת תמונות של אנשים אמיתיים בבגדים חשופים כמו ביקיני, הבעיה לא נפתרה לחלוטין. בדיקות של חוקרים, WIRED ועיתונאים אחרים מראות שהאפליקציה העצמאית והאתר של גרוק עדיין מייצרים תמונות 'פשיטת בגדים' ותוכן ארוטי, מה שמעורר זעם גלובלי ומחקרים במדינות רבות.
X פרסמה ביום רביעי בערב עדכון מדיניות, שמגביל יצירת תמונות של אנשים אמיתיים בבגדים חשופים. ההגבלה חלה על כל המשתמשים, כולל מנויים בתשלום, ומשלבת חסימות גיאוגרפיות באזורים שבהם פעילות כזו אסורה. החברה מדווחת על צעדים נוספים להסרת תכנים מפרים, כולל חומר ניצול מיני של קטינים (CSAM) ותמונות עירום לא מסכימות. עם זאת, פול בושו, חוקר ראשי בארגון AI Forensics, מאשר שגרוק.com עדיין מייצר עירום פוטוריאליסטי, בניגוד לגרוק בתוך X.
בדיקות שביצעה WIRED באמצעות חשבונות חינמיים באתר הגרוק בבריטניה ובארה"ב הצליחו להסיר בגדים מתמונות של גברים ללא מגבלות נראות לעין. באפליקציה הבריטית, הבקשה להפשיט גבר דרשה ציון שנת לידה לפני יצירת התמונה. עיתונאים מ-The Verge ו-Bellingcat דיווחו גם הם על יכולת ליצור תמונות מיניות בבריטניה, שחוקרת את גרוק ו-X על אפשרות יצירת תמונות כאלו. מאז תחילת השנה, עסקיו של מאסק – xAI, X וגרוק – ספגו ביקורת על יצירת תמונות אינטימיות לא מסכימות, סרטונים מיניים גרפיים ותמונות מיניות של קטינים לכאורה.
גורמים בארה"ב, אוסטרליה, ברזיל, קנדה, הנציבות האירופית, צרפת, הודו, אינדונזיה, אירלנד, מלזיה ובריטניה גינו או פתחו חקירות נגד X וגרוק. ב-9 בינואר, X הגבילה יצירת תמונות באמצעות גרוק למנויים בתשלום בלבד, מה שתואר על ידי ארגוני נשים כ'מונטיזציה של התעללות'. בושו אסף כ-90,000 תמונות גרוק מאז חג המולד ומאשר שהגבלות ב-X מנעו יצירת תמונות ביקיני של נשים, אך לא באתר ובאפליקציה.
מאסק פרסם ב-X שאפשר לאפשר עירום חלק עליון של מבוגרים דמיוניים בלבד עם הפעלת NSFW, בהתאם לסטנדרטים אמריקאיים. באוגוסט האחרון, xAI הוסיפה 'מצב חריף' למחולל התמונות והווידאו, שאפשר יצירת תוכן מיני, כולל דימויים של טיילור סוויפט מפשיטה בגדים. בניגוד לכך, מערכות כמו OpenAI וגוגל אינן מאפשרות תמונות עירום ישירות, אם כי ניתן לעקוף מגבלות. מאז 2022, משתמשים משתמשים ב-jailbreaks כדי לעקוף הגנות בבוטי AI.
ההגבלות החדשות יצרו מצב פרדוקסלי: חלק מהמשתמשים מדווחים שהם כבר לא יכולים ליצור תמונות כפי שיכלו בעבר, בעוד אחרים מצליחים בפורומים פורנוגרפיים. משתמשים בפורום אחד תיארו תוצאות מעורבות באתר ובאפליקציה, עם צורך בניסיונות מרובים להצלחה. מאסק שאל ב-X אם מישהו מצליח לשבור את המתינות של גרוק לתמונות, ומשתמשים הגיבו בתמונות מפרים. זה מעלה שאלות על יעילות המגבלות ועל אחריות הפלטפורמות.
למנהלי עסקים ישראליים שמשתמשים בכלי AI, המקרה מדגיש את הסיכונים האתיים והמשפטיים. בעוד ישראל אינה ברשימת המדינות החוקרות כרגע, חקירות גלובליות עלולות להשפיע על זמינות הכלים. חברות צריכות לבדוק מגבלות בטיחות בכלי AI ולשקול חלופות בטוחות יותר.
האם גרוק יצליח לתקן את הבעיה סופית? או שמאסק ימשיך לאזן בין חופש יצירה לביקורת ציבורית? עסקים חכמים יעדיפו כלים עם הגנות חזקות יותר כדי להימנע מסיכונים.