מחקר10 בדצמבר 20252 דקות·מ־arXiv cs.AISkipKV: דילוג סלקטיבי על KV להסקה יעילה במודלי AI גדוליםמודלי הסקה גדולים סובלים ממטמון KV כבד. SkipKV חוסכת זיכרון ומשפרת דיוק ומהירות. קראו על השיטה החדשה.SkipKVLRMsקרא עוד