זיהוי הזיות של מודלי שפה אצל סטודנטים: מה השתבש ואיך בונים פרוטוקול בדיקה
**הזיות של מודלי שפה הן תשובות שנשמעות בטוחות ומנומקות, אבל כוללות מידע שגוי או מקורות מומצאים.** במחקר arXiv:2602.17671 על 63 סטודנטים, הבעיות השכיחות היו ציטוטים מפוברקים, מידע לא נכון, ביטחון יתר, אי-עמידה בהנחיות וחנופה (sycophancy). סטודנטים זיהו הזיות או דרך אינטואיציה (“זה לא נשמע נכון”) או באמצעות אימות אקטיבי כמו הצלבה מול מקורות חיצוניים ורה-פרומפטינג. לעסקים בישראל זה רלוונטי במיוחד כשמשתמשים ב-LLM להודעות שירות ב-WhatsApp, למסמכי מדיניות ולתמחור. הפתרון הוא לא רק “פרומפטים טובים”, אלא פרוטוקול בדיקה: כל מספר/חוק/מקור חייב קישור או מסמך מקור, ותשובות רגישות עוברות אישור ותיעוד ב-CRM (למשל Zoho) עם זרימות N8N.
קרא עוד