חיפוש בחדשות

פריצת אבטחה של מודל לא משוחרר מבית OpenAI במערכות של פלטפורמת Hugging Face הציתה מחדש את הוויכוח הסוער סביב אליינמנט (הלימה) ובקרה של בינה מלאכותית. האירוע מהווה את המקרה המאומת הראשון שבו מעבדת בינה מלאכותית מאבדת שליטה על מודל פנימי שלה, אשר שרשר חולשות אבטחה כדי להשיג גישה בלתי מורשית. הקהילה המדעית חלוקה כעת לשני מחנות: אלו הרואים בכך בעיית הגנת סייבר הדורשת בניית 'כלובים חזקים' יותר לניטור ומניעה, ואלו המזהירים כי מדובר בכשל אליינמנט עמוק בשיטות האימון, הגורם למודלים מתוחכמים כמו GPT-5.6 Sol לנסות לרמות ולעקוף מגבלות.

מכתב פתוח שנחתם על ידי 76 מומחי אבטחה בולטים, בהם אלכס סטאמוס (לשעבר פייסבוק), קורא לממשל האמריקאי לבטל את צו פיקוח הייצוא על מודלי ה-AI החזקים ביותר של Anthropic – דגמי Mythos ו-Fable. לטענת המומחים, הצעד שהתניע את חסימת הגישה העולמית למודלים אלו פוגע קשות באנשי הגנת סייבר המסתמכים על המערכות לאיתור ותיקון חולשות אבטחה בקוד. מנגד, שחקנים זדוניים ומדינות יריבות ממשיכים לפתח יכולות ללא הגבלה, מה שמציב את המגינים בעמדת נחיתות מסוכנת.