בעידן שבו השלמת טקסט במודלי שפה גדולים (LLM) הופכת ליקרה ואיטית יותר, חוקרים מפתחים פתרונות חכמים להאצת התהליך. כעת מוצגת RADAR – שיטת דגימה ספקולטיבית מתקדמת המשתמשת בעצי טיוטה דינמיים מבוססי למידה מחוזקת (RL). השיטה פותרת בעיה מרכזית: מספר הקריאות למודל הטיוטה הוא פרמטר קבוע מראש, ללא גמישות. RADAR מאפשרת יצירה ושימוש יעיל יותר בטוקנים מועמדים, ומפחיתה חישובים מיותרים.
ב-RADAR, תהליך יצירת עץ הטיוטה מוגדר כתהליך החלטה מרקובי (MDP). החוקרים מאמנים מודל חיזוי באמצעות למידה מחוזקת לא מקוונת, שמאפשר קבלת החלטות בזמן אמת לגבי קריאות למודל הטיוטה. כך נוצר עץ טיוטה דינמי שמתאים את עצמו לכל מקרה, במקום מבנה קבוע. השיטה מצמצמת חישובים מיותרים ומאיצה את ההסקה באופן משמעותי, תוך שמירה על איכות התוצאות.
בבדיקות על שלושה מודלי LLM ושלושה משימות שונות, RADAR השיגה האצה של 3.17 עד 4.82 פי בהשוואה לשיטת ההסקה האוטו-ריגרסיבית הבסיסית. התוצאות מרשימות במיוחד במשימות הדורשות השלמת טקסט ארוכה, שבהן חיסכון בזמן הופך לקריטי. הקוד זמין בגיטהאב, מה שמאפשר למפתחים לבדוק ולשלב אותו במהירות.
המשמעות העסקית של RADAR עצומה: בעלי עסקים ישראלים המפעילים מערכות AI יכולים להפחית עלויות תפעול משמעותיות. השיטה רלוונטית במיוחד לחברות סטארט-אפ בישראל, שמתמודדות עם אתגרי סקיילינג של מודלי LLM. בהשוואה לשיטות ספקולטיביות קודמות, RADAR מציעה גמישות גבוהה יותר, מה שיכול לשפר ביצועים במגוון רחב של יישומים כמו צ'אטבוטים ושירות לקוחות אוטומטיים.
לסיכום, RADAR מסמנת קפיצה קדימה בהאצת השקה ב-LLM. מנהלי טכנולוגיה צריכים לבחון שילובה בפרויקטים עתידיים, במיוחד עם הזמינות של הקוד הפתוח. האם זה הצעד הבא לעבר AI זול ומהיר יותר?