חיפוש בחדשות

במחקר חדש של חוקרים מאוניברסיטת טובינגן, מכון מקס פלאנק, MATS Research וחברת Snyk, נחשפה שיטה לחילוץ עקבות חשיבה (chain of thought) מוצפנים ממודלי בינה מלאכותית מובילים כמו Claude, GPT ו-Gemini דרך ממשקי ה-API שלהם. השיטה מתבססת על שליחת המידע המוצפן לדגם חלש יותר בעל רמת אבטחה (alignment) נמוכה יותר. המחקר הראה כי הדגם הסיני Kimi K3 של חברת Moonshot AI מייצר פלטים הדומים לעקבות החשיבה של Claude Opus 4.8 ו-GPT 5.6 Sol, מה שמעלה חשדות לביצוע זיקוק (distillation) – אם כי לא הוכחה סיבתיות ישירה. בנוסף, השיטה איפשרה בעבר לשחזר מידע רגיש כמו סיסמאות ומפתחות API, פגיעות שתוקנה על ידי החברות בחודש שעבר.

מודל הבינה המלאכותית החדש של חברת OpenAI, המכונה GPT 5.6, לא יושק ישירות לציבור הרחב אלא יוגבל בתחילה לשותפים עסקיים נבחרים בלבד, תחת פיקוח הדוק של הממשל האמריקאי. ההחלטה התקבלה בעקבות לחץ של משרד מנהל הסייבר הלאומי (ONCD) ומשרד מדיניות המדע והטכנולוגיה (OSTP) בארה"ב, המביעים חשש כבד מפני יכולות הסייבר ההתקפיות של המודל. מנכ"ל OpenAI, סם אלטמן, אישר כי הממשל יאשר לקוחות באופן פרטני ("לקוח אחר לקוח") במהלך תקופת ההרצה, כדי למנוע ניצול לרעה של המודל לזיהוי פרצות אבטחה והרצת מתקפות סייבר.