בעידן שבו חברות טכנולוגיה נתונות לביקורת כבדה על השפעתן על נערי נוער, מטא הודיעה היום על עצירת גישה של מתבגרים לדמויות AI בכל האפליקציות שלה ברחבי העולם. ההחלטה מגיעה על רקע תביעות משפטיות נגד החברה ומשקפת מגמה של הגברת בקרות ביטחון. מנהלי עסקים בתחום ה-AI צריכים לשים לב: זהו אות אזהרה לרגולציה עתידית שתשפיע על פיתוח מוצרים דומים.
מטא מסבירה כי היא אינה נוטשת את הפיצ'ר, אלא מפתחת גרסה מיוחדת המיועדת למתבגרים. הגישה תיחסם בשבועות הקרובים לכל מי שרשם תאריך לידה של מתבגר, וכן לאלו שמטא חושדת בהם כמתבגרים באמצעות טכנולוגיית חיזוי גיל. הדמויות החדשות יציעו תגובות מותאמות גיל, יתמקדו בנושאים כמו חינוך, ספורט ותחביבים, ויכללו בקרות הורים מובנות.
ההודעה מגיעה זמן קצר לאחר השקת כלים חדשים לבקרת הורים באוקטובר, שהושפעו מדירוג PG-13 בסרטים והגבילו נושאים כמו אלימות קיצונית, עירום ושימוש בסמים. מאוחר יותר הציגה מטא תצוגה מקדימה של בקרות על דמויות AI, שמאפשרות להורים לעקוב אחר נושאים ולחסום דמויות ספציפיות, כולל אפשרות לכיבוי מלא. כעת, החברה מחמירה את הגישה ומכבה את הפיצ'ר לחלוטין עד להשקה.
לפי הדיווח, ההחלטה נובעת ממשוב של הורים שרצו שליטה רבה יותר באינטראקציות של ילדיהם עם דמויות AI. זה מתרחש על רקע משפט בניו מקסיקו השבוע, שבו מטא מואשמת בחוסר מאמץ להגן על ילדים מפני ניצול מיני באפליקציותיה. בנוסף, משפט נוסף בשבוע הבא מאשים את הפלטפורמה בגרימת התמכרות בקרב מתבגרים, ומנכ"ל החברה מארק צוקרברג צפוי להעיד.
מגמה זו אינה ייחודית למטא. חברת Character.AI אסרה על שיחות פתוחות עם בוטים למשתמשים מתחת לגיל 18 באוקטובר, ובנובמבר הודיעה על סיפורים אינטראקטיביים לילדים. גם OpenAI הוסיפה כללי ביטחון למתבגרים ב-ChatGPT ומיישמת הגבלות תוכן על סמך חיזוי גיל. חברות AI נאלצות להתאים את החוויה שלהן בעקבות תביעות הטוענות לתרומה לפגיעה עצמית.
מה זה אומר לעסקים ישראליים בתחום ה-AI והאוטומציה? על רקע רגולציה גוברת באירופה ובארה"ב, חשוב לשלב בקרות גיל מראש בפיתוח מוצרים. מנהלים צריכים לבחון כיצד לוודא תאימות, במיוחד אם המוצר פונה לקהל צעיר. העתיד כולל דמויות AI בטוחות יותר שיתמקדו בחינוך והתפתחות. האם החברה שלכם מוכנה?