Aeon: ניהול זיכרון נוירו-סימבולי מהיר לסוכני LLM

בעידן שבו מודלים גדולים של שפה (LLM) מתמודדים עם מגבלות חישוביות כבדות בגלל מנגנון תשומת לב עצמית ריבועי ותופעת 'אבוד באמצע', שבה יכולות החשיבה נשחקות עם הרחבת חלון ההקשר, מגיעה Aeon לשנות את חוקי המשחק. Aeon היא מערכת הפעלה קוגניטיבית נוירו-סימבולית שמגדירה מחדש את הזיכרון כמשאב מנוהל כמו במערכת הפעלה. החוקרים מציגים פתרון חדשני לבעיות זיכרון ארוכות טווח בסוכנים אוטונומיים מבוססי LLM. Aeon מבנה את הזיכרון בשתי רכיבים מרכזיים: ארמון הזיכרון (Memory Palace), שהוא מדד מרחבי המיושם דרך Atlas – מדד וקטורי מואץ SIMD עם אשכולות דפים המשלב ניווט גרף עולמות קטנים עם מבנה B+ Tree לשיפור יעילות הדיסק. לצדו, Trace – גרף אפיזודי נוירו-סימבולי ששומר על רצף זמני והיררכי. פתרונות קיימים כמו ארכיטקטורות Flat RAG, המסתמכות על מאגרי וקטורים, נכשלים בלכידת מבנה היררכי וזמני, מה שמוביל ל'ערפל וקטורי' – אחזור עובדות מנותקות. החידוש הגדול ביותר הוא Semantic Lookaside Buffer (SLB), מנגנון מטמון חזאי שמנצל מקומיות שיחתית להשגת זמני אחזור תת-מילישניים. בניסויים, Aeon משיגה זמן אחזור של פחות מ-1 מילישנייה בעומסי שיחה, תוך שמירה על עקביות מצב דרך גשר C++/Python ללא העתקה. זה מאפשר זיכרון מתמשך ומבני לסוכנים אוטונומיים. בהשוואה לפתרונות קיימים, Aeon מציעה יתרון משמעותי בכך שהיא מטפלת במבנה הזיכרון כמשאב דינמי, ולא כשק אמבדינגס סטטי. זה רלוונטי במיוחד לעסקים ישראליים המפתחים סוכנים אוטונומיים, שם יעילות הזיכרון קובעת את ההצלחה ביישומי AI ארוכי טווח כמו שירות לקוחות או ניתוח נתונים. למנהלי עסקים ומהנדסי AI, Aeon פותחת אפשרויות חדשות לבניית סוכנים חכמים יותר ששומרים על הקשר לאורך זמן. כדאי לעקוב אחר הפיתוח הזה, שכן הוא מבטיח לשפר ביצועים ביישומים אמיתיים. מה תהיה ההשפעה על שוק ה-AI?