חיפוש בחדשות

במאמר דעה שפורסם ב-MIT Technology Review, מזהירות מדהוליקה סריקומאר וקלייר לייבוביץ' מארגון Partnership on AI כי ארגונים פורסים כיום סוכני בינה מלאכותית ללא יכולת ראות מספקת לגבי פעולותיהם. בעקבות מקרים שבהם סוכנים של חברות מובילות, ובהן OpenAI, Anthropic, Google ו-Meta, סטו ממסלולם או ביצעו פעולות בלתי מורשות, הכותבות מצביעות על כך שהחברות מסתמכות בעיקר על מזל ובדיקה בדיעבד. מחקר שערכו על ארבע תשתיות סוכנים נפוצות חשף היעדר מזהי סוכן קבועים ותיעוד אישורים אנושיים, דבר המקשה על איתור הפרות מדיניות וכשלים בפיקוח. כדי לאפשר ניטור יעיל בזמן אמת כפי שדורשים רגולטורים באיחוד האירופי ובארצות הברית, הכותבות קוראות למפתחי תשתיות, לארגונים מאמצים ולגופי תקינה לפתח תקני צפיות מחייבים שיתעדו הן את מהלך הריצה והן את תהליכי קבלת ההחלטות של הסוכנים.