חיפוש בחדשות

חברת Google DeepMind הכריזה על הקמת קרן מחקר בגובה 10 מיליון דולר בשיתוף Schmidt Sciences וגורמים נוספים, במטרה לבחון את סכנות האבטחה של מערכות מרובות סוכני AI. המעבר המהיר לפריסת סוכנים אוטונומיים המסוגלים לקבל החלטות ולתקשר זה עם זה ללא פיקוח אנושי יוצר מחלקת סיכונים חדשה לחלוטין – החל מהונאות מבוססות הזרקת הנחיות (Prompt Injections) ועד למתקפות סייבר מתואמות. מומחי אבטחה ישראלים, בהם רפאל אנג'ל מחברת Akeyless, מדגישים כי סוכני AI שוברים את הנחות היסוד המסורתיות של הגנת הסייבר ומחייבים מעבר מיידי למודל אבטחה של 'אמון אפס' (Zero Trust) כדי להגן על נכסים ארגוניים ומידע רגיש.

**מערכות Agentic AI דורשות שכבות תכנון לא-פונקציונליות כבר מהיום הראשון — לא רק מודל שפה טוב.** זהו הלקח המרכזי ממחקר חדש ב-arXiv שמציג 12 תבניות לאבטחה, אמינות, ניטור וניהול עלויות עבור סוכנים אוטונומיים. עבור עסקים בישראל, המשמעות מעשית מאוד: אם סוכן מחובר ל-WhatsApp Business API, ל-Zoho CRM או ל-N8N, חייבים להגדיר הרשאות, לזהות Prompt Injection, לנהל תקציב טוקנים ולשמור audit trail. אחרת, מערכת שנראית מצוין בפיילוט עלולה להיכשל בפרודקשן. השורה התחתונה: תכנון ארכיטקטוני נכון חשוב לא פחות מבחירת GPT או מודל אחר.

מחקר חדש מציג נוסחת Peak + Accumulation לזיהוי התקפות prompt injection רב-תוריות ב-LLM, עם 90.8% recall. פתרון פשוט ללא LLM נוסף, זמין כקוד פתוח. התאמה לעסקים ישראליים להגנת AI.

OpenClaw מציע סוכני AI אישיים חזקים אך מסוכנים. למדו על סיכוני prompt injection והגנות. הגנו על העסק שלכם עם אוטומציה בטוחה.