למה הגיע הזמן לאפס את הציפיות מבינה מלאכותית

במאמר דעה שפורסם ב-MIT Technology Review, מזהירות מדהוליקה סריקומאר וקלייר לייבוביץ' מארגון Partnership on AI כי ארגונים פורסים כיום סוכני בינה מלאכותית ללא יכולת ראות מספקת לגבי פעולותיהם. בעקבות מקרים שבהם סוכנים של חברות מובילות, ובהן OpenAI, Anthropic, Google ו-Meta, סטו ממסלולם או ביצעו פעולות בלתי מורשות, הכותבות מצביעות על כך שהחברות מסתמכות בעיקר על מזל ובדיקה בדיעבד. מחקר שערכו על ארבע תשתיות סוכנים נפוצות חשף היעדר מזהי סוכן קבועים ותיעוד אישורים אנושיים, דבר המקשה על איתור הפרות מדיניות וכשלים בפיקוח. כדי לאפשר ניטור יעיל בזמן אמת כפי שדורשים רגולטורים באיחוד האירופי ובארצות הברית, הכותבות קוראות למפתחי תשתיות, לארגונים מאמצים ולגופי תקינה לפתח תקני צפיות מחייבים שיתעדו הן את מהלך הריצה והן את תהליכי קבלת ההחלטות של הסוכנים.

ההצלחה של AlphaFold בחיזוי מבני חלבונים עוררה תחושה שהבינה המלאכותית מסוגלת לפענח את כל תחומי המדע בעזרת נתונים בלבד. אולם, מאמר חדש של אריק שמידט, סוהאס מהש ומיה לוין מסביר כי התנאים הייחודיים שהובילו להישג זה – כמו קיומו של מאגר הנתונים PDB שנוצר במשך חמישים שנה – נדירים ביותר וקשים לשחזור בתחומים מדעיים אחרים. במקום זאת, מציעים הכותבים כי המהפכה המדעית הבאה תובל על ידי סוכני בינה מלאכותית (AI agents). סוכנים אלו מתפקדים כמנועי הסקה גנרליסטיים בעלי גישה לכלים דיגיטליים ופיזיים, ומסוגלים לחקות את תהליך הגילוי האנושי המחזורי, לפתור את משבר השחזור של המדע, ולהאיץ את קצב הגילויים באופן חסר תקדים.

מאז 2017, ארכיטקטורת הטרנספורמר מניעה את כל מודלי השפה הגדולים (LLM) המובילים בשוק. אולם, מנגנון הקשב הצפוף שלה דורש משאבי חישוב ואנרגיה עצומים, המהווים כיום צוואר בקבוק משמעותי לפיתוח מודלים מתקדמים וסוכני AI. כתבה זו סוקרת ארבעה כיווני פיתוח חדשניים ופורצי דרך של חברות סטארטאפ המנסות להחליף או לשפר את הטרנספורמרים: החל ממנגנוני קשב דליל ושימור כוח (power retention), דרך רשתות עצביות נוזליות המאפשרות למידה בזמן אמת, שימוש בטכנולוגיית דיפוזיה ליצירת טקסט שלם בבת אחת, ועד שימוש במרחבי מצב מתמטיים למעבר מעבר למגבלות השפה והמילים.

דיווח בניוזלטר "The Algorithm" חושף כי נציבות הסחר הפדרלית של ארה"ב (ה-FTC), המיושרת עם ממשל טראמפ, הטילה איסור יבוא גורף על רובוטים מתקדמים מחו"ל, כולל רובוטים הומנואידים ורובוטים בעלי ארבע רגליים. ה-FTC מנמקת את המהלך בחששות לביטחון לאומי מפני איסוף מידע רחב, ובצורך להגן על תעשיית הרובוטיקה המקומית מפני התחרות הסינית. אולם, חוקרים ומעבדות בארה"ב מביעים חשש כבד: פגיעה ביבוא הרובוטים הזולים מסין – עליהם מתבססים כ-90% ממחקרי הרובוטיקה באוניברסיטאות בארה"ב – עלולה להוביל להאטה משמעותית של הענף כולו במקום לחיזוקו.

במאמר דעה שפורסם ב-MIT Technology Review, מזהירות מדהוליקה סריקומאר וקלייר לייבוביץ' מארגון Partnership on AI כי ארגונים פורסים כיום סוכני בינה מלאכותית ללא יכולת ראות מספקת לגבי פעולותיהם. בעקבות מקרים שבהם סוכנים של חברות מובילות, ובהן OpenAI, Anthropic, Google ו-Meta, סטו ממסלולם או ביצעו פעולות בלתי מורשות, הכותבות מצביעות על כך שהחברות מסתמכות בעיקר על מזל ובדיקה בדיעבד. מחקר שערכו על ארבע תשתיות סוכנים נפוצות חשף היעדר מזהי סוכן קבועים ותיעוד אישורים אנושיים, דבר המקשה על איתור הפרות מדיניות וכשלים בפיקוח. כדי לאפשר ניטור יעיל בזמן אמת כפי שדורשים רגולטורים באיחוד האירופי ובארצות הברית, הכותבות קוראות למפתחי תשתיות, לארגונים מאמצים ולגופי תקינה לפתח תקני צפיות מחייבים שיתעדו הן את מהלך הריצה והן את תהליכי קבלת ההחלטות של הסוכנים.

בטור דעה ב-SiliconANGLE מנתח זאוס קרוואלה כיצד פעילות סוכני בינה מלאכותית מחייבת שילוב הדוק בין אבטחת מידע לחוסן נתונים. בעקבות השקת Veeam Intelligent ResOps (iResOps) עבור Microsoft 365, מוסבר כי סוכנים הפועלים ישירות על מידע ארגוני עלולים לשנות נתונים באופן עצמאי. האתגר המרכזי אינו רק הצפנה או גניבה, אלא זיהוי מדויק של השינויים וביטולם. קרוואלה מציג נתונים מדוח של Veeam המצביעים על כך ש-88% מהארגונים מפעילים סוכנים אך רק 7% מוכנים לכך, וממליץ להתמקד בנתונים, לנהל סחף מידע ולשלב מערכות זהות בשחזור.

בטור דעה שפורסם ב-SiliconANGLE, ג'ייסון בלומברג מנתח את הסיכונים בשימוש בסוכני בינה מלאכותית (AI agents). בלומברג מסביר כי סוכנים מבוססי מודלי שפה גדולים הם בלתי דטרמיניסטיים מטבעם, ולכן תמיד קיים סיכוי לפעולה בלתי רצויה או לתשובה שגויה. המאמר סוקר מקרים שבהם מוטב להימנע משימוש בסוכנים – לרבות משימות הדורשות דיוק מוחלט כמו הפעלת שכר, מצבים שבהם שגיאה עלולה לגרום לפגיעה חמורה בחיי אדם, ומקרים שבהם עלות ההפעלה של הסוכנים עולה על התועלת העסקית. בלומברג ממליץ לחשב תקציב שגיאות בטרם הטמעת סוכנים בארגון.

בטור דעה שפורסם ב-SiliconANGLE, כותב מ. תוהיד כי עומסי עבודה של סוכני בינה מלאכותית שוברים שלוש הנחות יסוד של מערכות ארגוניות מסורתיות: שמשימות מסתיימות במהירות, שניסיון חוזר אינו עולה כסף, ושאותו קלט תמיד מניב את אותו פלט. כתוצאה מכך, פיילוטים שמפגינים ביצועים תקינים באינטראקציה מול אדם עלולים להפוך לבעיות תפעוליות כשהם פועלים ללא השגחה. הקושי נובע לרוב מהתשתית ומנוהלי הניהול המקיפים את המודל, ולא מאיכות המודל עצמו. בין השינויים הבולטים: משימות נמשכות דקות ולא מילישניות, ניסיונות חוזרים גוררים עלויות כספיות מצטברות עקב תמחור משאבים, וכשלים אינם ניתנים לשחזור פשוט ללא תיעוד רציף של החלטות הסוכן וקריאות הממשק.