בעידן שבו מודלי שפה גדולים כמו GPT-4 ו-Gemini כובשים את עולם העסקים, החשיבה הפנימית שלהם נותרת אטומה ומעוררת חששות בטיחות ואמון. חוקרים מפרסמים מאמר חדש ב-arXiv שמציג את מסגרת CAGE – גישה חדשנית המשתמשת בגרפים ממוקדים כדי לייחס השפעות מההקשר ומהדורות קודמות. השיטה הזו פותרת מגבלות של שיטות ייחוס קיימות ומבטיחה הסברים מדויקים יותר.
שיטות ייחוס, שהוכחו כיעילות בהסברת מודלי ראייה ממוחשבת, הותאמו למודלי שפה אוטורגרסיביים. אולם, ייחוסי ההקשר הנוכחיים מקשרים ישירות בין הטוקנים הנוצרים להקדמה, ומתעלמים מהשפעות בין-דוריות בתהליך הייצור הרציף. כתוצאה מכך, ההסברים שנוצרים חלקיים ולא ממצים, מה שמקשה על הבנת תהליך החשיבה האמיתי של המודלים.
מסגרת CAGE מציגה גרף ייחוס: גרף ממוקד שמאגד את ההשפעה של ההקדמה וכל הדורות הקודמים על כל יצירה. הגרף נבנה תוך שמירה על שתי תכונות חיוניות – סיבתיות וסטוכסטיות של שורות. ייחוסי ההקשר מחושבים על ידי שוליות של תרומות ביניים לאורך מסלולים בגרף, מה שמאפשר הסברים מקיפים יותר.
בבדיקות על מודלים רבים, מערכי נתונים ומדדי אמינות שונים, CAGE משפרת את אמינות ייחוסי ההקשר בהשגת שיפורים ממוצעים של עד 40%. התוצאות מראות על עליונותה על פני שיטות קודמות, ומדגישות את הפוטנציאל שלה לשפר את השקיפות של מודלי שפה גדולים.
למנהלי עסקים ישראליים, המסגרת הזו פותחת דלתות לשילוב בטוח יותר של AI. הבנת החשיבה של LLM מאפשרת זיהוי סיכונים, אופטימיזציה של תהליכים ושיפור אמון בצוותים. עם התקדמות המחקר, טכנולוגיות כאלה עשויות להפוך לסטנדרט, מה שיאפשר לישראל להוביל בתחום ההסבריות של AI.