UK AI Security Institute

מנכ"ל ומייסד אנתרופיק (Anthropic), דאריו אמודאי, הבהיר באופן רשמי כי החברה מעולם לא קראה לאסור על מודלים של בינה מלאכותית בעלי משקולות פתוחות (open-weight), בניגוד לשמועות שנפוצו בתעשייה. תגובתו מגיעה בעקבות מכתב פתוח שפרסמו אנבידיה וחברות נוספות נגד הטלת מגבלות מוקדמות על מודלים אלו. עם זאת, אמודאי הביע חשש עמוק מכך שממשלים סמכותניים, ובראשם המפלגה הקומוניסטית הסינית, יפתחו מודלים חזקים שיקנו להם עליונות צבאית קבועה, או שישמשו לביצוע מתקפות ביולוגיות. לטענתו, מודלים פתוחים ללא חסמי בטיחות מציגים סיכון גבוה בתרחישים אלו. כדי להתמודד עם האיום, אמודאי מציע להגביל גישה לשבבים חזקים, לפעול נגד העתקת מודלים בשיטת זיקוק, ולהקים מערך בדיקות בטיחות גלובלי בהשתתפות סין.

**Mythos הוא מודל AI ייעודי לסייבר, שלפי Axios נגיש רק לכ-40 ארגונים ונמצא בשימוש ה-NSA לסריקת חולשות.** מעבר להיבט הביטחוני, זהו סימן לכך שכלי בינה מלאכותית עוברים משלב של יצירת טקסט לשלב של הפעלת מערכות קריטיות. עבור עסקים בישראל, המשמעות המעשית היא הצורך לחבר בין זיהוי סיכונים, תיעוד, התראות ותגובה מהירה. ארגונים שמפעילים Zoho CRM, WhatsApp Business API ו-N8N צריכים כבר עכשיו למפות הרשאות, לבדוק API פתוחים ולבנות זרימות טיפול מתועדות. השאלה כבר אינה אם AI ייכנס לסייבר הארגוני, אלא מי ינהל אותו נכון.

גוגל דיפמיינד מעמיקה שותפות עם מכון AISI הבריטי למחקר בטיחות AI, כולל ניטור חשיבה והשפעות חברתיות. קראו כיצד זה משפיע על עסקים. קראו עכשיו.