בעידן שבו דגמי שפה גדולים (LLM) זקוקים לחישובים כבדים כדי לפתור בעיות מורכבות, הבעיה המרכזית היא זמן ההשפלה הארוך בגלל דקודינג רציף. מחקר חדש מציג את ThreadWeaver, מסגרת להיגיון מקבילי אדפטיבי שמשפרת יעילות מבלי להקריב דיוק. לפי המחקר, ThreadWeaver משיגה ביצועים דומים למודלי היגיון רציפי מובילים, אך עם האצה משמעותית בזמן עיבוד הטוקנים.
ThreadWeaver מבוססת על שלוש חידושים מרכזיים. ראשית, יוצר מסלולים מקביליים בשני שלבים שמייצר נתוני שרשרת מחשבה (CoT) באיכות גבוהה בכמות גדולה להכשרה מפוקחת. שנית, עיצוב משותף של אימון והשפלה מבוסס trie, המאפשר היגיון מקבילי על מנועי השפלה אוטורגרסיביים סטנדרטיים ללא שינויים במטמון KV או embeddings. שלישית, מסגרת למידת חיזוק מודעת מקביליות שלומדת לאזן בין דיוק להאצה יעילה.
בבדיקות על שישה מבחני היגיון מתמטי מאתגרים, ThreadWeaver המוכשרת על Qwen3-8B השיגה דיוק ממוצע של 71.9%, ובמבחן AIME24 הגיעה ל-79.9% – תוצאות דומות למודלי רציף מתקדמים. במקביל, היא מקצרת את זמן הטוקנים ב-1.53 פעמים בממוצע, ויוצרת פרונטייר פארטו חדש בין דיוק ליעילות.
המשמעות העסקית גדולה: בעוד שיטות קודמות סבלו מירידת דיוק או דרשו מנועי השפלה מותאמים, ThreadWeaver עובדת על כלים זמינים. זה מאפשר לישראלים בפיתוח AI ליישם היגיון מקבילי בקלות, להפחית עלויות ענן ולהאיץ אפליקציות עסקיות כמו ניתוח נתונים או ייעוץ אוטומטי.
למנהלי עסקים, ThreadWeaver מצביעה על עתיד שבו LLM יהיו מהירים יותר במשימות מורכבות. כדאי לבדוק איך לשלב אותה בפרויקטים קיימים – האם זה הזמן להשקיע בהכשרות מקביליות?