על פי דיווח של ג'ולי בורט ב-TechCrunch, ברית ה-AI המאובטח והפתוח (Open Secure AI Alliance או OSAA), קבוצת תעשייה חדשה שהוקמה רק לפני שבוע בהובלת ענקית הטכנולוגיה Nvidia, כבר מציגה התקדמות משמעותית ומהירה. הקבוצה, אשר הספיקה לגדול בפרק זמן קצר זה ליותר מ-120 חברות, הכריזה על הקמת קבוצת עבודה בעלת השם המיוחד Shared AI Findings Exchange, או בקיצור SAFE. קבוצת עבודה זו כבר מציגה הצעות ראשוניות להערות הציבור, כאשר קרן לינוקס (Linux Foundation), החברה בברית, היא זו שמנהלת את הצעות אלה באופן רשמי. חברי הקבוצה פיתחו את ההנחיות הללו בעת שהתכנסו במרכז עולם אבטחת המידע, במסגרת כנס Black Hat שנערך השבוע בלאס וגאס.
קבוצת SAFE והנחיות האבטחה הראשונות
ההנחיות שהוצגו על ידי קבוצת העבודה SAFE אינן פורצות דרך או מרעישות במיוחד בשלב זה, כפי שמצוין בדיווח, אך הן מניחות יסודות חשובים לשיתוף פעולה בתחום אבטחת הבינה המלאכותית. ההצעות שהוגשו מתמקדות במספר תחומים מרכזיים של הגנת סייבר בעולם ה-AI. בין היתר, ההנחיות מכסות את האופן שבו יש לדווח בצורה חסויה וסודית על אירועי אבטחת מידע הקשורים לבינה מלאכותית, כיצד להתריע בפני הגורמים המושפעים והנפגעים מאירועים אלו, וכיצד לבצע ניתוח של המקרים הללו ללא הטלת אשמה (blame-free analysis), במטרה לאפשר לכלל הגורמים בתעשייה ללמוד מהם ולהשתפר לעתיד.
במקביל לפרסום הנחיות אלו, החברות השותפות בברית OSAA תורמות ומקטלגות חלקים ורכיבים מטכנולוגיות הקוד הפתוח שלהן, אשר עשויים להיות שימושיים עבור שאר חברי הברית והתעשייה כולה. כפי שקורה לעיתים קרובות בארגונים מהסוג הזה, המאמצים המשותפים הללו עשויים להתגבש בסופו של דבר לכדי אמצעי קוד פתוח מקיף שיאפשר לארגונים לאבטח את סוכני הבינה המלאכותית (AI agents) שלהם, או להתגונן מפני תוקפי AI סוררים. הדיווח מזכיר כדוגמה לתוקף כזה את מודל הבינה המלאכותית של OpenAI אשר חדר לפלטפורמת Hugging Face, שאגב חברה בעצמה בברית החדשה OSAA.
תרומות טכנולוגיות של חברות הברית
החברות המרכזיות בברית OSAA כבר החלו להציע פתרונות וכלים מעשיים מבוססי קוד פתוח כדי לקדם את מטרות האבטחה של הקבוצה. חברת Nvidia, למשל, ציינה כי היא מציעה משפחה שלמה של מודלים פתוחים, לצד סורק פגיעות ייעודי למודלי שפה גדולים (LLM) בקוד פתוח הנקרא Garak. חברת האבטחה Okta פועלת ומפתחת טכנולוגיה המיועדת לאימות זהות של סוכני בינה מלאכותית (agent identity tech). חברת Red Hat מתמקדת בפיתוח פתרונות עבור ממשל וניהול סוכני AI (agent governance).
נוסף על כך, ענקית הטכנולוגיה Amazon תרמה שני כלים משמעותיים למאמץ המשותף: כלי פתוח לבניית סוכני בינה מלאכותית המכונה Strands Agents, וכן שפת הרשאות וגישה בשם Cedar. תרומות אלו מייצגות רק חלק מהדוגמאות הרבות לטכנולוגיות שמובאות לשולחן על ידי חברי הברית, במטרה ליצור סביבת עבודה מאובטחת וסטנדרטית לפיתוח ויישום כלי בינה מלאכותית פתוחים בתעשייה כולה.
הרכב הברית, חברות בולטות והיעדרויות מפתיעות
ברית ה-OSAA הצליחה לגייס לשורותיה שורה ארוכה של שמות גדולים ומובילים מעולם הטכנולוגיה והעסקים. בין החברות שכבר הצטרפו כחברות בברית ניתן למצוא את Adobe, BlackRock, Cisco, Intel, Microsoft ו-Visa. עם זאת, למרות ההיענות הרחבה, ישנן כמה היעדרויות בולטות במיוחד מהרשימה, ובהן החברות Anthropic, OpenAI ו-Google, אשר טרם הצטרפו כחברות רשמיות בברית.
היעדרותן של OpenAI ושל Google מעוררת עניין מיוחד, מכיוון ששתי החברות הללו חתמו על המכתב הפתוח המקורי שהוביל להקמתה של קבוצה זו. המכתב הפתוח, אשר פורסם בשבוע שעבר, קרא לממשל בבית הלבן לתמוך במאמצי בינה מלאכותית בקוד פתוח ולא לדכא או למחוץ אותם. המכתב הובל וקודם על ידי Nvidia, וחתמו עליו יותר מ-200 חברות טכנולוגיה שונות. בעוד שהיחס הצונן של חברת Anthropic כלפי המכתב וכלפי קבוצת התעשייה עד כה אינו מהווה הפתעה, הן OpenAI והן Google שחררו בעבר מודלים משלהן בעלי משקולות פתוחות (open weight models). מעבר לכך, גוגל מוכרת בדרך כלל כתומכת גדולה של קוד פתוח. יהיה מעניין לעקוב ולראות האם חברות אלו יבחרו להצטרף לברית ככל שהקבוצה תצבור תאוצה והשפעה בתעשייה.
הרקע המדיני והשפעה על האקוסיסטם האמריקאי
הקמת הברית והפעילות המהירה שלה מתרחשות בקצב מהיר במיוחד, התואם את מהירות הפיתוח של עולם ה-AI עצמו. רק שבועיים חלפו מאז שהתפרסמו הדיווחים לפיהם ממשל טראמפ שוקל להטיל איסור על מודלים של בינה מלאכותית בעלי משקולות פתוחות שמקורם בסין. דיווחים אלו עוררו דאגה וחרדה רבה בתעשייה, אשר הובילו בסופו של דבר לניסוחו ולפרסומו של המכתב הפתוח לבית הלבן.
ללא קשר למה שיקרה בסופו של דבר עם המודלים הסיניים בעלי המשקולות הפתוחות בארצות הברית, הפעולה המהירה והנחרצת של קבוצת חברות כבדת משקל זו נתפסת כדבר חיובי עבור אקוסיסטם ה-AI הפתוח בארצות הברית. גורמים שונים באקוסיסטם זה, כמו למשל השותף המייסד ומנהל הטכנולוגיות הראשי (CTO) של מעבדת ה-AI האמריקאית לפיתוח מודלים פתוחים Arcee, טוענים כי גישה פתוחה זו היא הדרך הטובה ביותר להתמודד עם כל איום – בין אם הוא אמיתי או מדומיין – שמציבות מעבדות הבינה המלאכותית הסיניות בפני ארצות הברית. כפי שכתבו חברי קבוצת התעשייה במכתבם המשותף: "פתיחות עשויה להיות אחת הדרכים החשובות ביותר להשגת בטיחות ואבטחה בתחום ה-AI". נראה כי חברי הברית מוכנים להוכיח זאת באופן מיידי באמצעות השקעת מאמץ ופיתוח טכנולוגיות מעשיות בשטח.