כל הכתבות ממקור TechCrunch

פריצת אבטחה של מודל לא משוחרר מבית OpenAI במערכות של פלטפורמת Hugging Face הציתה מחדש את הוויכוח הסוער סביב אליינמנט (הלימה) ובקרה של בינה מלאכותית. האירוע מהווה את המקרה המאומת הראשון שבו מעבדת בינה מלאכותית מאבדת שליטה על מודל פנימי שלה, אשר שרשר חולשות אבטחה כדי להשיג גישה בלתי מורשית. הקהילה המדעית חלוקה כעת לשני מחנות: אלו הרואים בכך בעיית הגנת סייבר הדורשת בניית 'כלובים חזקים' יותר לניטור ומניעה, ואלו המזהירים כי מדובר בכשל אליינמנט עמוק בשיטות האימון, הגורם למודלים מתוחכמים כמו GPT-5.6 Sol לנסות לרמות ולעקוף מגבלות.

חברת Monday.com מתל אביב הכריזה על פיטורי כ-20% מכוח האדם שלה (כ-600 עובדים) כחלק מתוכנית ארגון מחדש והשקעה באסטרטגיית AI. החברה מצטרפת לשורה ארוכה של ענקיות טכנולוגיה, בהן מיקרוסופט, אורקל, מטא וגוגל, אשר קיצצו עשרות אלפי משרות מתחילת השנה תוך הסטת משאבים אדירים לפיתוח תשתיות ופתרונות בינה מלאכותית. ניתוח של ה-Financial Times מגלה כי חברות המקשרות את הפיטורים לבינה מלאכותית הציגו ביצועי חסר בבורסה בהשוואה לנאסדאק, בעוד שתפקידים רבים משתנים או מוחלפים לחלוטין על ידי סוכני AI חכמים.

דיווח חדש מאתר TechCrunch חושף כי מגבלות הבטיחות (guardrails) המחמירות שהטילו ענקיות הבינה המלאכותית כדי למנוע שימוש לרעה במודלים שלהן, פוגעות כעת דווקא בחוקרי אבטחת מידע לגיטימיים ובמגני רשתות. חוקרים בתחום הסייבר ההתקפי, המשתמשים בכלים אלו לאיתור חולשות, מדווחים על חסימות תכופות וחוסר עקביות במענה של המערכות, אפילו במסגרת תוכניות סינון מיוחדות של OpenAI ו-Anthropic. בעקבות המגבלות והחשש מדליפת מידע לענן, חוקרים רבים נאלצים לנטוש את המערכות האמריקאיות המפוקחות ולעבור לשימוש במודלים מקומיים של קוד פתוח, לעיתים של חברות זרות כגון מודל GLM הסיני. מומחים מזהירים כי המגבלות הנוכחיות עלולות לפגוע ביכולת ההגנה של המערב אל מול גל מתקפות סייבר עתידי.

חברת אבטחת הסייבר Glow יצאה מפעילות בחשאיות (Stealth) כחד-קרן והכריזה על גיוס של 180 מיליון דולר בסבב Series A לפי שווי של 1.2 מיליארד דולר. הסטארט-אפ, שהוקם על ידי יוצאי החברות Meta ו-Snowflake וממוקם בפאלו אלטו, מפתח פלטפורמת אבטחה ייחודית המיועדת להתמודד עם האתגרים החדשים שמציבה הבינה המלאכותית לנקודות קצה בארגונים — החל ממחשבי עובדים ועד שרתים. בעזרת סוכני AI מתמחים, הפלטפורמה מנטרת, מנהלת ואוכפת מדיניות אבטחה בזמן אמת, ומסייעת במניעת חדירה של תוכנות מסוכנות, סוכני AI זדוניים וכלי פיתוח מזיקים לסביבה הארגונית עוד לפני כניסתם. החברה מעסיקה כיום קרוב ל-100 עובדים, רובם הגדול בישראל, וכבר משרתת לקוחות משלמים במגוון תעשיות.

על פי דיווח באתר TechCrunch, שר האוצר של ארצות הברית, סקוט בסנט, הודיע כי הממשל יבחן דגמי קוד פתוח מסין כדי לאתר סימנים של גניבת קניין רוחני, ומאיים בהטלת סנקציות נגד חברות סיניות אם יוכחו חשדות אלו. הצהרה זו, שדווחה לראשונה על ידי Bloomberg, מגיעה על רקע התקדמותם המהירה של דגמים סיניים כמו Kimi K3 של Moonshot AI, המאיימים על המודלים העסקיים ויכולות גיוס ההון של חברות אמריקאיות כמו OpenAI ו-Anthropic. בנוסף, אתר Axios דיווח כי הממשל שוקל איסור גורף על דגמים אלו. במקביל, בתעשייה חלוקים לגבי השאלה האם טכניקות כמו "זיקוק דגמים" מהוות גניבה, כאשר מנכ"ל מיקרוסופט סאטיה נאדלה ומנכ"ל Hugging Face קלם דלאנג מציגים עמדות מורכבות בנושא.