יאן לקון משיק AMI: ההימור על מודלי עולם נגד LLMs

חברת Google DeepMind הכריזה על הקמת קרן מחקר בגובה 10 מיליון דולר בשיתוף Schmidt Sciences וגורמים נוספים, במטרה לבחון את סכנות האבטחה של מערכות מרובות סוכני AI. המעבר המהיר לפריסת סוכנים אוטונומיים המסוגלים לקבל החלטות ולתקשר זה עם זה ללא פיקוח אנושי יוצר מחלקת סיכונים חדשה לחלוטין – החל מהונאות מבוססות הזרקת הנחיות (Prompt Injections) ועד למתקפות סייבר מתואמות. מומחי אבטחה ישראלים, בהם רפאל אנג'ל מחברת Akeyless, מדגישים כי סוכני AI שוברים את הנחות היסוד המסורתיות של הגנת הסייבר ומחייבים מעבר מיידי למודל אבטחה של 'אמון אפס' (Zero Trust) כדי להגן על נכסים ארגוניים ומידע רגיש.

דוח חדש של MIT Technology Review Insights חושף כי אימוץ סוכני AI בארגונים צפוי לזנק ב-300% בשנתיים הקרובות. השינוי יוביל להגדרה מחדש של כ-75% מהתפקידים עד שנת 2030, תוך מעבר של עובדים אנושיים למשימות יצירתיות וניהוליות בעלות ערך מוסף גבוה. החלפת משימות אדמיניסטרטיביות שגרתיות בסוכנים אוטונומיים, כפי שהדגימה ענקית הטכנולוגיה Wipro עם קיצור זמני תגובה מ-48 שעות ל-5 שניות, משנה את יחסי העבודה ומחייבת מנהלים לפתח מיומנויות הובלה חדשות, ניהול סיכונים חכם והקפדה על חוק הגנת הפרטיות הישראלי.

פרצת אבטחה חמורה שהתגלתה לאחרונה בסוכן התמיכה מבוסס הבינה המלאכותית של חברת Meta מדגישה את הסיכונים של מתקפות הנדסה חברתית ישירות על מערכות אוטומטיות. תוקפים הצליחו להשתלט על חשבונות אינסטגרם בולטים, כולל חשבון הבית הלבן של אובמה לשעבר, פשוט על ידי בקשה ישירה מסוכן ה-AI לשנות את כתובת הדואר האלקטרוני המשויכת אליהם. במקום להשתמש בקוד מתוחכם, התוקפים ניצלו את נטייתו של מודל השפה הגדול לרצות את המשתמש ולבצע את המשימה ללא אימות בסיסי. האירוע מדגיש כי פריצה לסוכני AI פועלת לעיתים בשיטות פשוטות להפליא, ומחייבת עסקים המטמיעים פתרונות אוטומציה לבנות חומות הגנה קשיחות ואימותים דו-שלביים.

מחקר חדש של MIT ו-USC חושף זינוק דרמטי בשימוש בבינה מלאכותית על ידי תובעים המייצגים את עצמם בבתי משפט בארה"ב – מ-1% ב-2023 ל-18% ב-2026. בעוד ששופטים מדווחים כי הכלים הדיגיטליים משפרים את בהירות הטיעונים ומקילים על העבודה, סיכויי הזכייה של המייצגים את עצמם אינם משתפרים בהתאם. המגמה מעוררת ויכוחים סוערים בקרב בתי המשפט סביב שאלת החיסיון של השיחות עם הצ'אטבוטים, ואחריותן של חברות הטכנולוגיה כמו OpenAI במקרים של רשלנות או מתן ייעוץ משפטי שגוי. עבור עסקים, המגמה דורשת היערכות רגולטורית קפדנית וזהירות רבה בעת הזנת מידע רגיש לצ'אטבוטים.

ענקית הטכנולוגיה מטא (Meta) החלה לפרק בפועל את עסקת הרכישה של סטארט-אפ סוכני ה-AI הסיני מנוס (Manus) בשווי של כ-2 מיליארד דולר. הצעד מגיע בעקבות דרישה חריפה של הממשל בבייג'ינג מטעמי ביטחון לאומי. מטא כבר השלימה הפרדה תפעולית מלאה, חסמה את גישת עובדיה לכלים של מנוס ועצרה שיתוף מידע הדדי. במקביל, מייסדי מנוס פועלים לגיוס של כ-1 מיליארד דולר ממשקיעים חיצוניים כדי לרכוש מחדש את השליטה בחברה, במטרה להקים מיזם משותף בסין ולהנפיק בהונג קונג. המקרה מדגיש את סיכוני הרגולציה המורכבים ושליטת הממשל הסיני על קניין רוחני טכנולוגי מקומי, ומאלץ ארגונים ברחבי העולם ובפרט בישראל לבחון מחדש את שרשרת האספקה של פתרונות ה-AI שלהם.

קואליציה של תובעים כלליים בארצות הברית, ובראשם התובעת הכללית של מדינת ניו יורק, פתחה בחקירה נגד חברת OpenAI. החקירה מתמקדת בשיטות הפרסום של החברה, רמת מעורבות המשתמשים, היבטי בטיחות המודל, אופן הטיפול במידע רגיש ורפואי, והגנה על קטינים וקבוצות מוחלשות. OpenAI משתפת פעולה עם החקירה, וטוענת כי הגרסאות האחרונות של ChatGPT כוללות מנגנוני הגנה משופרים. חקירה זו, לצד תביעה נוספת מצד התובע הכללי של פלורידה, מתרחשת בנקודת זמן רגישה במיוחד עבור החברה, אשר הגישה לאחרונה טפסים חסויים לקראת הנפקה ראשונית לציבור (IPO).

פסיקה דרמטית של בית המשפט המחוזי במינכן קובעת לראשונה כי חברות טכנולוגיה נושאות באחריות משפטית ישירה ומלאה לתוכן שקרי ומכפיש המיוצר על ידי כלי הבינה המלאכותית שלהן. במרכז התביעה עומד פיצ'ר AI Overviews של גוגל, אשר קישר מוציאים לאור גרמנים למעשי הונאה ללא כל בסיס במציאות. בית המשפט דחה את טענות ההגנה של גוגל, לפיהן אזהרות המשתמש פוטרות אותה מאחריות, וקבע כי מכיוון שהאלגוריתם מייצר אמירות חדשות ועצמאיות, היצרנית היא האחראית הבלעדית לנזקיהן. החלטה זו עשויה לחולל מהפכה ברגולציה על כלי Generative AI ברחבי העולם ולהשליך ישירות על ניהול הסיכונים של עסקים ישראליים המטמיעים טכנולוגיות דומות.

צו חירום של ממשל ארה"ב הורה לחברת Anthropic להשבית מיידית ובאופן גלובלי את הגישה לשני מודלי ה-AI החזקים ביותר שלה: Claude Fable 5 ו-Claude Mythos 5. המהלך הדרמטי, שהוגדר כפעולת פיקוח על ייצוא בעקבות חשש לפריצת אבטחה (jailbreak) צרה, מגיע ימים בודדים בלבד לאחר השקת Fable 5 לציבור הרחב. המקרה מדגיש את סיכוני הרגולציה והתלות של עסקים במודל יחיד, ומחייב חברות ישראליות לבנות אסטרטגיות מרובות מודלים עם תשתיות אינטגרציה גמישות לצמצום הפגיעה ברציפות התפעולית שלהן.