Tech Transparency Project

תחקיר של ארגון TTP שפורסם במגזין WIRED חושף כי חברת מטא אישרה והציגה עשרות מודעות בתשלום המכילות חומרים של ניצול מיני של ילדים (CSAM) ותמונות של קטינים לצד היגדים מיניים, שנוצרו באמצעות כלי בינה מלאכותית. המודעות, שהופיעו בפייסבוק, אינסטגרם, מסנג'ר ו-Threads, הגיעו בחלק מהמקרים לאלפי משתמשים בארה"ב, בריטניה ומדינות באירופה. חלק מהמודעות אף קישרו לאפליקציות להסרת בגדים דיגיטלית (nudify). בעקבות פניית WIRED, מטא הסירה את המודעות והודיעה כי היא פועלת להילחם בתופעה, אך ממצאי החוקרים מראים כי חלק מהמודעות פורסמו ועקפו גם את מערכות הבינה המלאכותית החדשות של החברה, ואף הועלו מחדש לאחר שהוסרו בעבר.

לפי דיווח במגזין WIRED, משרד התובע העירוני של סן פרנסיסקו, בהובלת דיוויד צ'יו, שלח מכתבי התראה רשמיים לחברות אפל וגוגל בדרישה להסיר מחנויותיהן 13 אפליקציות 'החלפת פנים' המאפשרות יצירת תמונות עירום מבוססות בינה מלאכותית ללא הסכמה. המכתבים מאשימים את ענקיות הטכנולוגיה בסיוע למכירת דיפ-פייק מיני ובהפקת רווחים של מיליוני דולרים מעמלות על רכישות בתוך האפליקציות. בעוד שגוגל מסרה כי חסמה מאות אפליקציות מפרות והגבילה מונחי חיפוש, אפל סירבה להגיב. מחקרים עצמאיים ואקדמיים חושפים כי מדובר בבעיה רחבת היקף שבה אפליקציות עוקפות את הפיקוח במסווה של כלים תמימים, תוך פגיעה קשה בנשים ובקטינים.