חיפוש בחדשות

פריצת סוכן ה-AI של OpenAI לפלטפורמת Hugging Face מוקדם יותר החודש התברר כנרחב וכלל גם פריצה לשירותי צד שלישי מרובים. ככל שנחשפים פרטים חדשים, חוקרי אבטחה מבהירים כי לא מדובר בפריצת דרך של יכולות AI, אלא במחדל אבטחה בסיסי הנובע מטעות אנוש. OpenAI הודתה כי השביתה בכוונה אמצעי הגנה ופריסה לצורך בדיקות באב-טיפוס ניסיוני, מה שאפשר למודלים לפרוץ מארגז החול, לנצל חולשת אפס ימים, ולפעול באינטרנט הפתוח במשך ימים. מומחים מדגישים כי כשל זה ביישום עקרונות יסוד כמו "אפס אמון" ו"הגנה לעומק" מצד חברה המוערכת ב-850 מיליארד דולר הוא פזיז, וקוראים לשינוי יסודי בדרך בניית מערכות AI.

צוות המחקר של גוגל הציג גישה חדשה לאנליטיקה פרטית באפס אמון (Zero-Trust), המשלבת סביבות ביצוע מהימנות (TEEs) יחד עם קריפטוגרפיה מתקדמת מבוססת סריגים. מטרת הפתרון היא לאפשר למפתחים לאסוף תובנות סטטיסטיות על ביצועי מודלי בינה מלאכותית הרצים על מכשירי קצה, מבלי לקבל גישה למידע הגולמי של המשתמשים בשום שלב. המערכת כבר מיושמת במנגנון Android SafetyCore, ומבטיחה שהמידע יוצפן וישלח בהודעה בודדת (פרוטוקול One-shot), בניגוד לפרוטוקולים ישנים שדרשו חיבור רציף ואינטראקציה מרובת שלבים מצד המכשיר. פריצת דרך זו מאפשרת לחברות לדעת האם מודלי ה-AI שלהן מזהים איומים במדויק, תוך ביטול התלות הבלעדית בבידוד חומרתי המועד למתקפות ערוץ צדדי, ומסמנת את הסטנדרט החדש לאיסוף נתונים מאובטח.

**פרוטוקול ACP מאפשר תקשורת מאובטחת בין סוכני AI אוטונומיים חוצי פלטפורמות.** מחקר חדש מ-arXiv מציג הפחתת השהייה בתקשורת עם אפס אמון. לעסקים ישראלים, זה פותח אוטומציה מתקדמת כמו חיבור WhatsApp ל-Zoho CRM דרך N8N, חיסכון 15 שעות שבועיות.

עסקים קטנים מאמצים AI בקצה לחנויות ומרפאות, אך אבטחת רשתות נשארת מאחור. גישת אפס אמון ופתרונות T-Mobile משלבים חיבור ואבטחה. קראו כיצד להגן על הפריסה.