YaPO: ניווט ספרס להתאמת מודלי שפה גדולים

בעידן שבו מודלי שפה גדולים (LLMs) שולטים בשוק ה-AI, אתגר מרכזי הוא התאמתם להתנהגויות ספציפיות כמו התאמה תרבותית או מניעת הזיות – מבלי לפגוע בידע הכללי. חוקרים מציגים את YaPO, שיטת אופטימיזציה חדשה שמאמנת וקטורי ניווט ספרסיים במרחב הסמוי של מקודד אוטו ספרס (SAE). בניגוד לשיטות צפופות כמו BiPO, YaPO מבטיחה וקטורים מנותקים ומפורשים, המאפשרים שליטה מדויקת יותר בערכים קרובים כמו בתרבויות מזרח תיכוניות. (72 מילים) YaPO פועלת ללא מודל התייחסות, ומץליחה ללמוד ישירות מנתוני העדפות בדומה ל-DPO. על ידי אופטימיזציה של קודים ספרסיים, השיטה יוצרת כיווני ניווט יעילים שמתמקדים בגורמים ספציפיים, ומפחיתה את הבעיה של ריבוי משמעויות בנורונים. המחקר מראה כי YaPO מתכנסת מהר יותר, משיגה ביצועים גבוהים יותר ומציגה יציבות אימון משופרת בהשוואה לבסליינים צפופים. זה הופך אותה לאידיאלית ליישומים עדינים כמו התאמה תרבותית. (85 מילים) בניסויים, YaPO בלטה בהתאמה תרבותית, שבה יש להבדיל בין ערכים קרובים מאוד. מעבר לכך, היא מתאימה גם להתנהגויות כמו מניעת הזיות, חיפוש עושר, פריצות ביטחון וחיפוש כוח. חשוב מכל, השיטה שומרת על הידע הכללי, ללא פגיעה במדד MMLU. התוצאות מדגישות את YaPO כמתכון כללי להתאמה יעילה, יציבה ומדויקת של LLMs, עם יישומים רחבים בשליטה והתאמה לדומיינים. (78 מילים) לעסקים ישראלים בתחום ה-AI, YaPO מציעה כלי פרקטי להתאמה אישית של מודלים גדולים, במיוחד בהקשרים תרבותיים מקומיים כמו התאמה לשוק המזרח התיכוני. השימוש בוקטורים ספרסיים מקטין את עלויות החישוב ומשפר את הפרשנות, מה שמאפשר למפתחים להבין ולשלוט בהתנהגויות המודל. בהשוואה לשיטות מסורתיות כמו כוונון עדין, YaPO קלה יותר ליישום ומתאימה לסביבות דינמיות. (72 מילים) בסיכום, YaPO פותחת דלת להתאמות מדויקות ב-LLMs תוך שמירה על ביצועים כלליים. הקוד והנתונים זמינים בגיטהאב של MBZUAI-Paris – הזדמנות למפתחים לבדוק ולשלב בפרויקטים. כיצד תשפיע שיטה זו על פיתוח AI בישראל? (48 מילים)