חיפוש בחדשות

דוח חדש של עמותת SaferAI חושף כי מודל הבינה המלאכותית בעל המשקולות הפתוחות GLM-5.2, שפותח על ידי החברה הסינית Z.ai, מצמצם משמעותית את פער היכולות מול מודלי הקצה המובילים בעולם כמו GPT-5.5 ו-Claude Opus 4.7 בתחומי הסייבר והביולוגיה הדו-שימושית. עם זאת, הדוח מצביע על פער בטיחותי מתרחב: בעוד שהדגמים הסגורים מסרבים בעקביות לבקשות מזיקות, המודל הסיני הפתוח לא סירב לאף משימת סייבר התקפית או משימה ביולוגית שהוצגה בפניו במהלך הבדיקות. הממצאים מעוררים מחדש את הדיון הציבורי סביב ניהול הסיכונים הכרוכים בשחרור מודלים פתוחים, שכן מנגנוני ההגנה ברמת ה-API ניתנים להסרה או לעקיפה בקלות ברגע שמשקולות המודל מורצות באופן מקומי על ידי המשתמשים.

דיווח חדש מאתר TechCrunch חושף כי מגבלות הבטיחות (guardrails) המחמירות שהטילו ענקיות הבינה המלאכותית כדי למנוע שימוש לרעה במודלים שלהן, פוגעות כעת דווקא בחוקרי אבטחת מידע לגיטימיים ובמגני רשתות. חוקרים בתחום הסייבר ההתקפי, המשתמשים בכלים אלו לאיתור חולשות, מדווחים על חסימות תכופות וחוסר עקביות במענה של המערכות, אפילו במסגרת תוכניות סינון מיוחדות של OpenAI ו-Anthropic. בעקבות המגבלות והחשש מדליפת מידע לענן, חוקרים רבים נאלצים לנטוש את המערכות האמריקאיות המפוקחות ולעבור לשימוש במודלים מקומיים של קוד פתוח, לעיתים של חברות זרות כגון מודל GLM הסיני. מומחים מזהירים כי המגבלות הנוכחיות עלולות לפגוע ביכולת ההגנה של המערב אל מול גל מתקפות סייבר עתידי.

ממשל טראמפ (Donald Trump) החליט להסיר את מגבלות היצוא על מודלי הבינה המלאכותית המתקדמים ביותר של חברת Anthropic (אנתרופיק) – Claude Mythos 5 ו-Claude Fable 5. ההסדר הושג לאחר שבועות של מתיחות מול משרד המסחר האמריקאי, Commerce Department, בהם נאלצה החברה להשבית זמנית את הגישה למודל Fable 5 בעקבות חששות מפריצות אבטחה (Jailbreaks) המאפשרות יכולות סייבר התקפיות. בעקבות מכתב רשמי ששלח מזכיר המסחר Howard Lutnick (הווארד לוטניק), הותר יצוא והפצת המודלים ללא צורך ברישיונות מיוחדים. החברה התחייבה בתמורה לפתח מנגנוני הגנה מחמירים ולשתף פעולה באופן הדוק עם הממשל באיתור סיכונים. להסרת המגבלות השפעה ישירה על חברות ישראליות המפתחות סוכני AI ופתרונות אוטומציה מתקדמים על בסיס מודלי החברה.