מחקר
6 דקות
מ־arXiv cs.AI
GraphRAG ללא GPU: איך SPRIG מוזיל אחזור רב-שלבי
**SPRIG הוא מודל GraphRAG מבוסס CPU בלבד שמנסה לשפר אחזור רב-שלבי בלי עלויות טוקנים ובלי GPU.** לפי תקציר המאמר ב-arXiv, השיטה משיגה שיפור ממוצע של 21% ב-Hit@10 וחותכת 28% מזמן האחזור לעומת PPR נאיבי, עם שינוי זניח ב-Recall@10. עבור עסקים בישראל, המשמעות היא שאפשר לבחון מנועי תשובה פנימיים על בסיס מסמכים, CRM ו-WhatsApp בתקציב נמוך יותר ובארכיטקטורה שמרנית יותר מבחינת פרטיות. המסקנה המעשית: אם השאלות שלכם באמת רב-שלביות, כדאי להריץ פיילוט CPU-only לפני השקעה ב-GPU.
קרא עוד