חיפוש בחדשות

דוח חדש של עמותת SaferAI חושף כי מודל הבינה המלאכותית בעל המשקולות הפתוחות GLM-5.2, שפותח על ידי החברה הסינית Z.ai, מצמצם משמעותית את פער היכולות מול מודלי הקצה המובילים בעולם כמו GPT-5.5 ו-Claude Opus 4.7 בתחומי הסייבר והביולוגיה הדו-שימושית. עם זאת, הדוח מצביע על פער בטיחותי מתרחב: בעוד שהדגמים הסגורים מסרבים בעקביות לבקשות מזיקות, המודל הסיני הפתוח לא סירב לאף משימת סייבר התקפית או משימה ביולוגית שהוצגה בפניו במהלך הבדיקות. הממצאים מעוררים מחדש את הדיון הציבורי סביב ניהול הסיכונים הכרוכים בשחרור מודלים פתוחים, שכן מנגנוני ההגנה ברמת ה-API ניתנים להסרה או לעקיפה בקלות ברגע שמשקולות המודל מורצות באופן מקומי על ידי המשתמשים.

פרסום במגזין WIRED חושף כי חוקר האבטחה איאן קרול השתמש במודל Claude Opus 4.7 של חברת Anthropic כדי לעקוף את מערכת ה-Firewall של פלטפורמת הכרטיסים Front Gate Tickets, המשרתת את מרבית פסטיבלי המוזיקה הגדולים בארה"ב. באמצעות ה-AI, פיתח קרול מעקף מתוחכם לפירצת SQL Injection שאיפשר לו לגשת למיליוני רשומות לקוחות, להשתלט על חשבונות מנהלי מערכת ולהנפיק כרטיסי VIP בחינם לכל אירוע. המקרה ממחיש את האיום הגובר של פרצות אבטחה באמצעות בינה מלאכותית, ומדגיש את החשיבות של הטמעת אימות דו-שלבי (MFA) וניטור קפדני של מערכות ליבה עסקיות.