SCOPE: מודלי שפה כמורה חד-פעמית לתכנון היררכי בסביבות טקסט

בעידן שבו סוכני AI מתמודדים עם סביבות טקסטואליות מורכבות, תכנון ארוך טווח הופך לאתגר מרכזי בגלל מרחב פעולות פתוח, תצפיות מעורפלות ומשוב דליל. חוקרים מציגים את SCOPE – מתודולת תכנון היררכי חד-פעמית שמנצלת ידע סמנטי עשיר של מודלי שפה גדולים (LLM) רק בשלב הייזום. במקום לשאול את ה-LLM שוב ושוב במהלך אימון והסקה, SCOPE מייצרת תת-מטרות מתצלומי דוגמה ומאמנת מודל תלמיד קל משקל. גישה זו מקצרת זמני סקה דרמטית ומפחיתה עלויות חישוב. SCOPE פועלת כמתכנן היררכי one-shot: בתחילה, LLM מייצר תת-מטרות מתוך מסלולי דוגמה קיימים, ללא צורך בהתאמה אדפטיבית. המודל התלמיד הלמידתי לומד לפצל מטרות עליונות לתת-מטרות אלה, ומבצע תכנון עצמאי בהמשך. בניגוד לגישות קודמות כמו ADaPT, שתלויות בשאילתות LLM חוזרות ומקפיאות את הפרמטרים של ה-LLM, SCOPE מאפשרת התאמה ספציפית למשימה תוך שמירה על יעילות גבוהה. החוקרים מדווחים כי תת-מטרות אלה, למרות אפשרות לא אופטימליות, מספקות נקודת מוצא חזקה לפירוק היררכי. בבדיקות בסביבת TextCraft, SCOPE השיגה שיעור הצלחה של 0.56, גבוה יותר מ-0.52 של ADaPT. יותר מכך, זמן הסקה צומצם מ-164.4 שניות ל-3 שניות בלבד – שיפור של פי 55. תוצאות אלה מדגישות את היתרון של ייצור תת-מטרות חד-פעמי על פני שאילתות דינמיות, למרות פגיעה מסוימת בהסבריות. הגישה מתאימה לסביבות גופניות ולטקסטואליות טהורות, ומשלבת ידע עולמי מקודד ב-LLM. SCOPE מציעה אלטרנטיבה יעילה לגישות כבדות מבוססות LLM, שדורשות משאבים רבים ומקשות על פריסה. בהשוואה למתחרים, היא מפחיתה תלות במודלים גדולים ומאפשרת אימון מהיר יותר. בישראל, שבה חברות טק מפתחות סוכנים אוטונומיים לצ'אטבוטים ולרובוטיקה, מתודולוגיה כזו יכולה להאיץ פיתוח מוצרים תחרותיים. היא מדגישה את החשיבות של דיסטילציה יעילה של ידע מ-LLM. למנהלי עסקים בתחום ה-AI, SCOPE מסמנת מגמה: שימוש חכם במודלי שפה כ'מורים' ראשוניים בלבד, כדי לבנות מערכות קלות ומהירות. השאלה היא האם ניתן לשפר עוד את איכות התת-מטרות? כדאי לעקוב אחר התפתחויות נוספות.