מחקר
2 דקות
מ־arXiv cs.AI
KEPO: אופטימיזציה חדשה לשיפור חשיבה בלמידה מחוזקת
למידה מחוזקת במודלי AI נתקלת בקשיים, אך KEPO מציגה פתרון חדשני. קראו על השיפורים בביצועים וביציבות. קראו עכשיו המלצות.
קרא עודחיפוש בחדשות
3 תוצאות עבור "אימון מודלי שפה גדולים".
מחקר
2 דקות
מ־arXiv cs.AI
Call2Instruct: צינור אוטומטי ל-Q&A ממוקדי שיחה לכוונון LLM
בעולם שבו מודלי שפה גדולים זקוקים לנתונים איכותיים, Call2Instruct מציג צינור אוטומטי להמרת הקלטות מוקד שיחה ל-Q&A. קראו על השיטה המהפכנית שמאומתת בכוונון Llama 2.
קרא עודמחקר
2 דקות
מ־arXiv cs.AI
DTop-p MoE: ניתוב Top-p דינמי לשליטה בספרסות ב-MoE
ארכיטקטורות MoE ספרסיות משנות את חוקי המשחק באימון מודלים גדולים, אך ניתוב Top-k מוגבל. DTop-p MoE מציג ניתוב Top-p דינמי עם שליטה בספרסות באמצעות בקר PI. קראו על השיפורים בביצועים ובסקיילינג.
קרא עוד