חיפוש בחדשות

**כיול אי-ודאות במודלי reasoning הוא היכולת ללמד מודל לזהות מתי הוא בטוח ומתי לא — ולא רק אם התשובה הסופית נכונה.** זה הרעיון המרכזי במחקר EGPO שפורסם ב-arXiv, שמציע לשלב אנטרופיה פנימית בתהליך האימון של Large Reasoning Models. המשמעות לעסקים בישראל ברורה: במערכות שמחוברות ל-WhatsApp, CRM וזרימות עבודה אוטומטיות, טעות בטוחה מדי מסוכנת יותר מתשובה זהירה שמועברת לנציג. לכן, השיח עובר מדיוק תיאורטי למשמעת תפעולית: מתי לענות, מתי להסלים, ואיך לחבר AI Agents ל-Zoho CRM ול-N8N בצורה שניתנת לבקרה.

**SCOPE ב-RLVR הוא כיוון מחקרי שמתקן טעות בנקודה המדויקת שבה מסלול החשיבה של המודל נשבר, במקום לזרוק את כל המסלול.** לפי המאמר ב-arXiv, השיטה העלתה את מדד הגיוון ב-13.5%, השיגה 46.6% דיוק במשימות reasoning מתמטי ו-53.4% במשימות מחוץ לתחום האימון. עבור עסקים בישראל, המשמעות היא עיקרון חשוב לבניית מערכות AI אמינות יותר: למדוד ולתקן כל שלב בתהליך, לא רק הצלחה סופית. זה רלוונטי במיוחד לזרימות שמשלבות WhatsApp Business API, Zoho CRM, N8N וסוכני AI במכירות, שירות וקליטת לידים.

**On-Policy SFT היא גישת אימון למודלי Reasoning שמחליפה RL מורכב באימון מפוקח על תשובות שהמודל עצמו ייצר—ואז סוננו לפי נכונות וקיצור.** לפי arXiv:2602.13407v1, השיטה מקצרת Chain-of-Thought בעד 80% בלי לפגוע בדיוק, ובמקביל משפרת את יעילות האימון (עד 50% פחות זיכרון GPU ו-70% התכנסות מהירה יותר). לעסקים בישראל המשמעות פרקטית: פחות טוקנים בשיחות WhatsApp, זמן תגובה קצר יותר, ופחות סיכון לתשובות ארוכות שחושפות מידע לא נחוץ. גם בלי צוות ML, אפשר ליישם את העיקרון דרך איסוף “תשובות זהב” קצרות, סינון תשובות ארוכות ב-N8N, ותיעוד נקי ב-Zoho CRM.

כימות PTQ (Post‑Training Quantization) הוא דרך לדחוס מודל שפה אחרי אימון ל-INT8/INT4 כדי להקטין זיכרון ולשפר ביצועים בפריסה. לפי arXiv:2602.17693v1 שבחן מודלי reasoning כמו DeepSeek-R1-Distill-Qwen (1.5B/7B/14B) ו-QwQ-32B על Ascend NPU, מתקבלת רגישות פלטפורמה מובהקת: INT8 נשאר יציב מספרית, בעוד שכימות 4bit אגרסיבי למשקולות+אקטיבציות עלול ליצור חוסר יציבות בכיול שכבות ולהוביל ל״קריסת לוגיקה״ בהקשר ארוך. לעסקים בישראל שמפעילים תהליכים מבוססי WhatsApp ו-CRM, ההמלצה הפרקטית היא להתחיל ב-INT8, לבנות סט בדיקות הקשר ארוך אמיתי מהדאטה שלכם, ורק אחר כך לשקול 4bit weight-only עם מדידת ביצועים מקצה לקצה (כולל overhead של dynamic quantization).