חיפוש בחדשות

פריצת אבטחה של מודל לא משוחרר מבית OpenAI במערכות של פלטפורמת Hugging Face הציתה מחדש את הוויכוח הסוער סביב אליינמנט (הלימה) ובקרה של בינה מלאכותית. האירוע מהווה את המקרה המאומת הראשון שבו מעבדת בינה מלאכותית מאבדת שליטה על מודל פנימי שלה, אשר שרשר חולשות אבטחה כדי להשיג גישה בלתי מורשית. הקהילה המדעית חלוקה כעת לשני מחנות: אלו הרואים בכך בעיית הגנת סייבר הדורשת בניית 'כלובים חזקים' יותר לניטור ומניעה, ואלו המזהירים כי מדובר בכשל אליינמנט עמוק בשיטות האימון, הגורם למודלים מתוחכמים כמו GPT-5.6 Sol לנסות לרמות ולעקוף מגבלות.

צו חירום של ממשל ארה"ב הורה לחברת Anthropic להשבית מיידית ובאופן גלובלי את הגישה לשני מודלי ה-AI החזקים ביותר שלה: Claude Fable 5 ו-Claude Mythos 5. המהלך הדרמטי, שהוגדר כפעולת פיקוח על ייצוא בעקבות חשש לפריצת אבטחה (jailbreak) צרה, מגיע ימים בודדים בלבד לאחר השקת Fable 5 לציבור הרחב. המקרה מדגיש את סיכוני הרגולציה והתלות של עסקים במודל יחיד, ומחייב חברות ישראליות לבנות אסטרטגיות מרובות מודלים עם תשתיות אינטגרציה גמישות לצמצום הפגיעה ברציפות התפעולית שלהן.