חיפוש בחדשות

מנכ"ל ומייסד אנתרופיק (Anthropic), דאריו אמודאי, הבהיר באופן רשמי כי החברה מעולם לא קראה לאסור על מודלים של בינה מלאכותית בעלי משקולות פתוחות (open-weight), בניגוד לשמועות שנפוצו בתעשייה. תגובתו מגיעה בעקבות מכתב פתוח שפרסמו אנבידיה וחברות נוספות נגד הטלת מגבלות מוקדמות על מודלים אלו. עם זאת, אמודאי הביע חשש עמוק מכך שממשלים סמכותניים, ובראשם המפלגה הקומוניסטית הסינית, יפתחו מודלים חזקים שיקנו להם עליונות צבאית קבועה, או שישמשו לביצוע מתקפות ביולוגיות. לטענתו, מודלים פתוחים ללא חסמי בטיחות מציגים סיכון גבוה בתרחישים אלו. כדי להתמודד עם האיום, אמודאי מציע להגביל גישה לשבבים חזקים, לפעול נגד העתקת מודלים בשיטת זיקוק, ולהקים מערך בדיקות בטיחות גלובלי בהשתתפות סין.

**אינדקס סוכני AI 2025 הוא מאגר השוואתי של MIT שמרכז מידע טכני ובטיחותי על 30 מערכות סוכניות פרוסות, על בסיס מידע פומבי ותכתובת עם מפתחים. לפי החוקרים, ברוב המקרים המפתחים משתפים מעט מאוד מידע על בדיקות בטיחות, הערכות והשפעות חברתיות—פער שמקשה על עסקים לבחור ספק ולחבר את הסוכן ל-CRM או ל-WhatsApp בצורה אחראית.** לעסקים בישראל זה מתרגם לרשימת דרישות חדשה: לוגים, הרשאות API מינימליות, Human-in-the-Loop לפני פעולות בלתי הפיכות, ומסמכי הערכה. לפי IBM (2023) העלות הממוצעת של דליפת מידע היא כ-4.45 מיליון דולר, ולכן סוכן שמקבל גישה ל-Zoho CRM או ל-Google Workspace חייב להיות עטוף בבקרות—למשל דרך N8N ושכבת הרשאות ברורה.

בעידן שבו מודלי AI מתפשטים בעולם כולו, חשוב לוודא שהם בטוחים בכל שפה ותרבות. מחקר חדש בדק שני מודלים בעשר שפות וגילה פערים בבטיחות. קראו את התוצאות המלאות עכשיו! (112 מילים)