חדשות
5 דקות
מ־TechCrunch
כיצד מגבלות הבטיחות של הבינה המלאכותית מקשות על חוקרי סייבר התקפי
דיווח חדש מאתר TechCrunch חושף כי מגבלות הבטיחות (guardrails) המחמירות שהטילו ענקיות הבינה המלאכותית כדי למנוע שימוש לרעה במודלים שלהן, פוגעות כעת דווקא בחוקרי אבטחת מידע לגיטימיים ובמגני רשתות. חוקרים בתחום הסייבר ההתקפי, המשתמשים בכלים אלו לאיתור חולשות, מדווחים על חסימות תכופות וחוסר עקביות במענה של המערכות, אפילו במסגרת תוכניות סינון מיוחדות של OpenAI ו-Anthropic. בעקבות המגבלות והחשש מדליפת מידע לענן, חוקרים רבים נאלצים לנטוש את המערכות האמריקאיות המפוקחות ולעבור לשימוש במודלים מקומיים של קוד פתוח, לעיתים של חברות זרות כגון מודל GLM הסיני. מומחים מזהירים כי המגבלות הנוכחיות עלולות לפגוע ביכולת ההגנה של המערב אל מול גל מתקפות סייבר עתידי.
קרא עוד