חיפוש בחדשות

במחקר חדש של חוקרים מאוניברסיטת טובינגן, מכון מקס פלאנק, MATS Research וחברת Snyk, נחשפה שיטה לחילוץ עקבות חשיבה (chain of thought) מוצפנים ממודלי בינה מלאכותית מובילים כמו Claude, GPT ו-Gemini דרך ממשקי ה-API שלהם. השיטה מתבססת על שליחת המידע המוצפן לדגם חלש יותר בעל רמת אבטחה (alignment) נמוכה יותר. המחקר הראה כי הדגם הסיני Kimi K3 של חברת Moonshot AI מייצר פלטים הדומים לעקבות החשיבה של Claude Opus 4.8 ו-GPT 5.6 Sol, מה שמעלה חשדות לביצוע זיקוק (distillation) – אם כי לא הוכחה סיבתיות ישירה. בנוסף, השיטה איפשרה בעבר לשחזר מידע רגיש כמו סיסמאות ומפתחות API, פגיעות שתוקנה על ידי החברות בחודש שעבר.

**הסקת LLM לטנטית היא הטענה שתהליך החשיבה של מודל שפה מתרחש בעיקר במצבים פנימיים, לא בשרשרת המילים הגלויה.** נייר עמדה חדש ב-arXiv טוען שהתחום צריך למדוד reasoning דרך דינמיקת מצבים לטנטיים, ולא להניח ש-Chain of Thought משקף נאמנה את דרך ההחלטה. עבור עסקים בישראל זו נקודה קריטית: אם אתם מפעילים סוכן שירות, סיווג לידים או תהליך אישור מסמכים, אסור לבנות בקרה רק על ההסבר שהמודל כותב. עדיף למדוד פעולות, קריאות API, שינויי CRM ושכבות הרשאה. במילים אחרות, ב-AI ארגוני אמין, הבקרה צריכה להיות מערכתית: WhatsApp Business API, Zoho CRM, N8N ולוגים תפעוליים חשובים יותר מטקסט שנשמע משכנע.