חדשות
4 דקות
מ־Wired
השוואת בטיחות מודלי בינה מלאכותית: חשיפת הפרויקט החשאי של מטא
תחקיר של מגזין הטכנולוגיה WIRED (מגזין הטכנולוגיה האמריקאי) חושף כי חברת Meta (מטא) הפעילה מאות קבלנים שהתחזו לקטינים כדי לבחון ולערער את מנגנוני הבטיחות של צ'אטבוטים מתחרים כמו ChatGPT ו-Gemini. פרויקט Cannes החשאי, שנוהל על ידי חברת הקבלן Covalen, כלל הזנת מעל 45,000 שאילתות רגישות (בנושאי פגיעה עצמית, סמים ויחסים אסורים) כדי לבצע השוואת בטיחות מודלי בינה מלאכותית של המתחרות. בעוד מטא טוענת כי מדובר בפרקטיקת השוואה סטנדרטית בתעשייה, החברות המתחרות מבהירות כי הבדיקות הפרובוקטיביות נעשו ללא אישורן והפרו את תנאי השימוש שלהן באופן מובהק.
קרא עוד