חיפוש בחדשות

5 תוצאות עבור "WIKI".

שחזור מידע הוא צוואר הבקבוק של עובדתיות במודלי שפה
מחקר
5 דקות
מ־Google Research

שחזור מידע הוא צוואר הבקבוק של עובדתיות במודלי שפה

פוסט מחקר חדש של מדעני Google Research, ניתאי קלדרון וגל יונה, מציג את מסגרת 'פרופילי הידע' ואת מדד WikiProfile המבוסס על 2,150 עובדות מוויקיפדיה. המחקר חושף כי שגיאות עובדתיות במודלי שפה מתקדמים כמו Gemini 3 ו-GPT-5 אינן נובעות מהיעדר המידע בפרמטרים (כשל קידוד), אלא מקושי של המודל לגשת אליו ולשחזר אותו באופן עצמאי (כשל שחזור). במודלי הקצה המובילים, כ-95% עד 98% מהעובדות מקודדות, אך המודלים נכשלים בשחזור ישיר של 26% עד 34% מהן. המחקר מדגים כי מנגנון חשיבה יכול לסייע בשחזור של כ-40% עד 65% מהעובדות המקודדות הללו, במיוחד במקרים של עובדות נדירות או שאלות הפוכות (קללת ההיפוך), ובכך הוא מהווה כלי יעיל לפתרון צוואר הבקבוק של השחזור.

קרא עוד
CourtGuard לאבטחת מודלי שפה: התאמת מדיניות בלי אימון מחדש
מחקר
6 דקות
מ־arXiv cs.AI

CourtGuard לאבטחת מודלי שפה: התאמת מדיניות בלי אימון מחדש

**CourtGuard הוא מנגנון בטיחות למודלי שפה שמאפשר להחליף מדיניות בלי לאמן מחדש את המודל.** לפי המחקר, המסגרת השיגה תוצאות מובילות ב-7 מבחני בטיחות והגיעה ל-90% דיוק במשימת Wikipedia Vandalism רק באמצעות החלפת מסמך מדיניות. עבור עסקים בישראל, זו בשורה חשובה: במקום להטמיע מחדש כל שכבת בקרה בכל שינוי נוהל, אפשר לעדכן מסמך, לחבר אותו ל-WhatsApp Business API, ל-Zoho CRM ול-N8N, ולשמור על תהליך מוסבר ומתועד. המשמעות המעשית היא זמן תגובה קצר יותר לשינויי רגולציה, בקרה טובה יותר על תשובות של סוכני AI, ופחות תלות במחזורי פיתוח ארוכים.

קרא עוד