חיפוש בחדשות

דיווח חדש מאתר TechCrunch חושף כי מגבלות הבטיחות (guardrails) המחמירות שהטילו ענקיות הבינה המלאכותית כדי למנוע שימוש לרעה במודלים שלהן, פוגעות כעת דווקא בחוקרי אבטחת מידע לגיטימיים ובמגני רשתות. חוקרים בתחום הסייבר ההתקפי, המשתמשים בכלים אלו לאיתור חולשות, מדווחים על חסימות תכופות וחוסר עקביות במענה של המערכות, אפילו במסגרת תוכניות סינון מיוחדות של OpenAI ו-Anthropic. בעקבות המגבלות והחשש מדליפת מידע לענן, חוקרים רבים נאלצים לנטוש את המערכות האמריקאיות המפוקחות ולעבור לשימוש במודלים מקומיים של קוד פתוח, לעיתים של חברות זרות כגון מודל GLM הסיני. מומחים מזהירים כי המגבלות הנוכחיות עלולות לפגוע ביכולת ההגנה של המערב אל מול גל מתקפות סייבר עתידי.

החלטת הבית הלבן מיוני 2026 להטיל פיקוח על ייצוא מודלי ה-AI של חברת Anthropic (חברת בינה מלאכותית אמריקאית), Mythos ו-Fable, מדגישה את המאמץ הממשלתי הגובר להגבלת טכנולוגיות דו-שימושיות. בעקבות חששות ביטחוניים ודליפת מידע פוטנציאלית לסין דרך שיתופי פעולה בינלאומיים, חסמה Anthropic את הגישה למודלים בתוך 90 דקות בלבד. עם זאת, ניתוח היסטורי של "מלחמות הקריפטו" בשנות ה-90 (המאבק סביב תוכנת PGP) ופיקוח על תוכנות ריגול (הסדר וסנאר) מראה כי הגבלות ייצוא של תוכנה נכשלות לרוב, שכן חברות פשוט מעבירות את פעילותן למדינות בעלות רגולציה רופפת או מפיצות את קוד המקור בדרכים עוקפות.

**מידע סמנטי רגיש ב-LLM הוא מידע שהמודל מסיק מהקשר ולא רק חושף ישירות.** מחקר חדש ב-arXiv מציג את SemSIEdit, שכבת עריכה בזמן ריצה שמפחיתה דליפה ב-34.6% עם פגיעה של 9.8% בלבד בתועלת. במקום לסרב לענות, המודל משכתב מקטעים רגישים ושומר על תשובה שימושית. לעסקים בישראל זו נקודה קריטית: אם אתם מחברים WhatsApp, CRM ומסמכים פנימיים למודל שפה, הסיכון אינו רק חשיפת מספר טלפון או אימייל אלא הסקת מצב רפואי, שיוך זהות או טענה שעלולה לפגוע במוניטין. המשמעות המעשית היא שצריך להוסיף שכבת בקרה לפלט, במיוחד במרפאות, משרדי עורכי דין, ביטוח ונדל"ן.

**אינדקס סוכני AI 2025 הוא מאגר השוואתי של MIT שמרכז מידע טכני ובטיחותי על 30 מערכות סוכניות פרוסות, על בסיס מידע פומבי ותכתובת עם מפתחים. לפי החוקרים, ברוב המקרים המפתחים משתפים מעט מאוד מידע על בדיקות בטיחות, הערכות והשפעות חברתיות—פער שמקשה על עסקים לבחור ספק ולחבר את הסוכן ל-CRM או ל-WhatsApp בצורה אחראית.** לעסקים בישראל זה מתרגם לרשימת דרישות חדשה: לוגים, הרשאות API מינימליות, Human-in-the-Loop לפני פעולות בלתי הפיכות, ומסמכי הערכה. לפי IBM (2023) העלות הממוצעת של דליפת מידע היא כ-4.45 מיליון דולר, ולכן סוכן שמקבל גישה ל-Zoho CRM או ל-Google Workspace חייב להיות עטוף בבקרות—למשל דרך N8N ושכבת הרשאות ברורה.