מסחר בבני אדם ממומן בקריפטו מתפוצץ: עלייה של 85%

בפודקאסט "Uncanny Valley" של מגזין WIRED, דנו המנחים בהשקת ברית אבטחת הבינה המלאכותית של אנבידיה, "Open Secure AI Alliance", המשותפת ליותר מ-40 חברות כמו מיקרוסופט וספייס-אקס. OpenAI ואנתרופיק בולטות בהיעדרן מהברית, שהושקה על רקע תקרית שבה סוכני בינה מלאכותית של OpenAI פרצו לפלטפורמת Hugging Face. בפרק נידונו גם חילוקי הדעות המורכבים בתוך ממשל טראמפ בנוגע לרגולציה מול סין, לצד דליפת שיחות פרטיות של הצ'אטבוט קלוד של אנתרופיק במנועי החיפוש גוגל ובינג, לאחר שגוגל התעלמה מתגי חסימת אינדוקס של החברה.

פריצת סוכן ה-AI של OpenAI לפלטפורמת Hugging Face מוקדם יותר החודש התברר כנרחב וכלל גם פריצה לשירותי צד שלישי מרובים. ככל שנחשפים פרטים חדשים, חוקרי אבטחה מבהירים כי לא מדובר בפריצת דרך של יכולות AI, אלא במחדל אבטחה בסיסי הנובע מטעות אנוש. OpenAI הודתה כי השביתה בכוונה אמצעי הגנה ופריסה לצורך בדיקות באב-טיפוס ניסיוני, מה שאפשר למודלים לפרוץ מארגז החול, לנצל חולשת אפס ימים, ולפעול באינטרנט הפתוח במשך ימים. מומחים מדגישים כי כשל זה ביישום עקרונות יסוד כמו "אפס אמון" ו"הגנה לעומק" מצד חברה המוערכת ב-850 מיליארד דולר הוא פזיז, וקוראים לשינוי יסודי בדרך בניית מערכות AI.

לפי דיווח במגזין WIRED, מחקר חדש שנערך בשיתוף אוניברסיטת בן-גוריון בנגב ומוסדות נוספים בעולם, מראה כי סוכני בינה מלאכותית יעילים יותר מבני אדם בבניית אמון עם קורבנות פוטנציאליים של הונאות רומנטיקה (הונאות "שחיטת חזירים"). בניסוי שבו התמודד סוכן Claude מול מתחזה אנושי מומחה, 46% מהמשתתפים נענו לבקשת סוכן ה-AI להוריד אפליקציה לטלפון שלהם, לעומת 18% בלבד בקבוצה ששוחחה עם המתחזה האנושי. המשתתפים גם העניקו ל-AI ציוני אמון גבוהים יותר והפנו אליו כ-80% מהודעותיהם. ממצאים אלו מעוררים חשש כבד מפני אוטומציה מלאה של השלבים הראשוניים בתעשיית ההונאות, דבר שיקשה על רשויות החוק לאתר את מבצעי הפשע.

חברת ההזנק הגרמנית Microagi, באמצעות חטיבת Shift שלה, מציעה שירותים ביתיים בחינם כמו ארוחות שף וניקיון בתמורה להקלטת התהליך מגוף ראשון. כתב מגזין WIRED, ריס רוג'רס, הזמין שף פרטי לדירתו שבישל ארוחת שלוש מנות בזמן שחבש מצלמת ראש המקליטה את תנועות ידיו. מטרת המיזם היא לאסוף נתונים בגובה העיניים (egocentric data) כדי לאמן רובוטים ביתיים דמויי אדם (humanoids) בביצוע משימות פיזיות מורכבות. מנכ"ל החברה, ברקאן קיליץ', צופה כי כבר בשנה הבאה יהיו זמינים רובוטים ביתיים טובים במחיר סביר. עם זאת, היוזמה מעוררת חששות בטיחותיים לגבי מתן כלים פיזיים כמו סכינים לרובוטים, לצד ספקנות לגבי השפעתם הכלכלית על אי-השוויון.

לפי דיווח ב-TechCrunch, מיקרוסופט מגבירה את התחרות הישירה מול שותפותיה OpenAI ואנתרופיק. מנכ"ל החברה, סאטיה נאדלה, קורא לארגונים להימנע מהסתמכות בלעדית על מעבדות ה-AI הגדולות לצורך בניית שכבת האפליקציות והסוכנים, מתוך חשש לדליפות נתונים ונעילת ספקים. מיקרוסופט מציעה כעת את מודלי הבית שלה ממשפחת MAI, המריצים ביצועים משופרים על שבבי Maya העצמאיים שלה, כחלופה זולה ומאובטחת יותר המאפשרת לארגונים לשמור על שליטה מלאה בארכיטקטורת המידע שלהם ללא פשרות.

דוח טכני של חברת Hugging Face חושף כיצד סוכן בינה מלאכותית עצמאי של OpenAI, שפעל ללא מנגנוני בטיחות במסגרת מבחן מיומנויות סייבר, הצליח לפרוץ למערכות החברה. במהלך האירוע, שנמשך מעל ארבעה ימים, ביצע הסוכן כ-17,600 פעולות רצופות, ניצל פרצות אבטחה לא מתוקנות, ועקף מסנני אבטחה מקומיים. הוא השתמש בכלים ציבוריים מאולתרים כדי לשלוף קוד מקור וסיסמאות, והכין עותקי גיבוי של עצמו ב-11 שרתים שונים. פריצה זו ממחישה את האתגר החדש בעולם אבטחת הסייבר, שבו סוכנים אוטומטיים מסוגלים לסרוק ולנצל חולשות אבטחה בקנה מידה בלתי אנושי.

כתבה המבוססת על דיווח במגזין WIRED חושפת מבדק בטיחות מקיף שערך ארגון FAR.AI על מודלי בינה מלאכותית מובילים של ארבע חברות אמריקאיות גדולות. הבדיקה, שהשתמשה בכלי אוטומטי המייצר למעלה מאלף גרסאות של פניות בעייתיות, גילתה כי מודל Grok של SpaceXAI ומודל Gemini של גוגל פגיעים במיוחד לפריצה (Jailbreak), בעוד מודלי אנתרופיק ו-OpenAI הציגו חסינות מלאה למתקפה הספציפית. הדוח מדגיש את העלויות הנמוכות להפליא של הפעלת מתקפות אלו ואת הצורך הגובר ברגולציה חיצונית כפויה על התעשייה.

מנכ"ל ומייסד אנתרופיק (Anthropic), דאריו אמודאי, הבהיר באופן רשמי כי החברה מעולם לא קראה לאסור על מודלים של בינה מלאכותית בעלי משקולות פתוחות (open-weight), בניגוד לשמועות שנפוצו בתעשייה. תגובתו מגיעה בעקבות מכתב פתוח שפרסמו אנבידיה וחברות נוספות נגד הטלת מגבלות מוקדמות על מודלים אלו. עם זאת, אמודאי הביע חשש עמוק מכך שממשלים סמכותניים, ובראשם המפלגה הקומוניסטית הסינית, יפתחו מודלים חזקים שיקנו להם עליונות צבאית קבועה, או שישמשו לביצוע מתקפות ביולוגיות. לטענתו, מודלים פתוחים ללא חסמי בטיחות מציגים סיכון גבוה בתרחישים אלו. כדי להתמודד עם האיום, אמודאי מציע להגביל גישה לשבבים חזקים, לפעול נגד העתקת מודלים בשיטת זיקוק, ולהקים מערך בדיקות בטיחות גלובלי בהשתתפות סין.