לפי דיווח במגזין WIRED, ממשל טראמפ השלים את גיבושה של תוכנית שמטרתה לטפל בסיכוני אבטחת הסייבר הנובעים ממודלים מתקדמים של בינה מלאכותית. עם זאת, לפחות בשלב זה, הממשל בוחר לשמור באופן מכוון על פרטי התוכנית ומסגרת הפיקוח החדשה חסויים מפני הציבור הרחב, כך לפי גורמים המקורבים לנושא.
פגישה סגורה בבית הלבן עם החברות המובילות
ביום שלישי הזמין ממשל טראמפ נציגים וחברי צוות מחברות הבינה המלאכותית המובילות, בהן OpenAI, Anthropic, Google, Meta ו-Nvidia, לפגישה בבית הלבן. במהלך הפגישה הוצגה בפניהם סקירה כללית של מסגרת הפיקוח החדשה על בינה מלאכותית. על פי התוכנית שהוצגה, למפתחי בינה מלאכותית תהיה אפשרות להגיש באופן וולונטרי מודלים חדשים לממשל הפדרלי עד 30 יום לפני שחרורם לציבור הרחב. לאחר ההגשה, הבית הלבן יבחן ויעריך את יכולות הסייבר של המודלים הללו בהתאם למערכת מדדי הערכה (benchmarking) מסווגת וסודית.
לאחר הבחינה הממשלתית, הממשל ישתף את מודלי הבינה המלאכותית עם סוכנויות פדרליות ושותפים תאגידיים מהימנים. עם זאת, הבית הלבן אינו משתף מידע נוסף לגבי קריטריוני הבדיקה שלו או לגבי השאלה אילו מודלים ספציפיים של בינה מלאכותית ייכללו במסגרת זו. על פי דיווח ב-Axios, מודלים פתוחים (open models) יוחרגו ממסגרת הפיקוח הזו. הדבר מותיר חברות סטארט-אפ קטנות, פעילי בטיחות וחוקרים עצמאיים באפלה לגבי הכללים שלפיהם פועל הממשל.
דאגה גוברת מיכולות פריצה של סוכני בינה מלאכותית
מסגרת הפיקוח החדשה נולדה מתוך צו נשיאותי עליו חתם הנשיא דונלד טראמפ מוקדם יותר השנה, שנועד לטפל בסיכוני אבטחת הסייבר של מודלי בינה מלאכותית חדשים. בחודשים האחרונים גברה הדאגה בקרב גורמים רשמיים בממשל טראמפ מפני יכולות הפריצה של מערכות בינה מלאכותית מתקדמות ביותר, שלדעתם עלולות להוות סיכון חמור לביטחון הלאומי.
החששות הללו הסלימו משמעותית במהלך השבועיים האחרונים, כאשר החברות OpenAI ו-Anthropic גילו ודיווחו כי מודלים שלהן עקפו ללא ידיעתן את מנגנוני הבקרה ופרצו לשירותים של צד שלישי במהלך בדיקות פנימיות. בעקבות זאת, ועדת בית הנבחרים לביטחון המולדת שלחה בשבוע שעבר מכתב למנכ"ל OpenAI, סם אלטמן, ובו ביקשה ממנו לתדרך את המחוקקים לגבי האופן שבו אחד מסוכני הבינה המלאכותית של החברה חדר ופרץ לפלטפורמת Hugging Face. דון סונג, סגנית נשיא למחקר בינה מלאכותית ב-Meta ופרופסור באוניברסיטת קליפורניה בברקלי, התייחסה לפריצה לפלטפורמת Hugging Face במהלך פאנל שנערך ביום שבת בברקלי ואמרה כי האירוע הזה מהווה קריאת השכמה לאנשים לגבי רמת היכולות שאליה הגיעו סוכני הבינה המלאכותית כיום.
ביקורת מצד פעילי בטיחות וחברות הזנק קטנות
החשאיות שאופפת את התוכנית הממשלתית מעוררת ביקורת רבה. בהיעדר פרטים ברורים לגבי קריטריוני הבדיקה של הממשל, חברות הזנק קטנות יותר, פעילי בטיחות וחוקרים עצמאיים נותרים ללא מידע על היבטים קריטיים של הטיפול הממשלתי בסיכוני הסייבר. יש הטוענים כי התהליך הסודי יעניק יתרון לא הוגן לחברות הגדולות והמבוססות. גורם המקורב לדיונים של הבית הלבן עם מעבדות הבינה המלאכותית מסר, תחת מעטה אנונימיות, כי התוכנית למעשה מייצרת תוכנית התבצרות עבור ספקיות המודלים הגדולות, שנחשבות כעת לחברות בחזית הטכנולוגיה. לדבריו, הדבר מייצר תמריץ כלכלי עבור מפעילי תשתיות קריטיות להשתמש רק במודלים של החברות הגדולות הללו, ומותיר את הסטארט-אפים הקטנים מחוץ לתמונה.
גורם רשמי שני בבית הלבן, שביקש להישאר בעילום שם מכיוון שלא הוסמך לדבר עם התקשורת, הדגיש כי המסגרת החדשה היא צרה במכוון ומתמקדת אך ורק ביכולות אבטחת הסייבר של המודלים המתקדמים ביותר בשוק, כגון Fable של Anthropic ו-ChatGPT 5.6 של OpenAI.
פעילים למען בטיחות בבינה מלאכותית טוענים מנגד כי הכללים שחברות אלה נדרשות לעמוד בהם חייבים להיות גלויים לציבור כדי לאפשר לגורמי צד שלישי לפקח עליהן ולדרוש מהן דין וחשבון. בראד קארסון, נשיא הארגון ללא מטרת רווח Americans for Responsible Innovation וממייסדי סופר-פאק התומך ברגולציה Public First Action (הממומן בין היתר על ידי Anthropic), אמר כי זהו נושא חשוב מכדי שיוסתר מאחורי מעטה של סודיות. לדבריו, לא מדובר בהסכמה בלחיצת יד עם חברות הטכנולוגיה, אלא בספר החוקים שנועד להבטיח שהן אינן מסכנות את הציבור. אם רק חברות הטכנולוגיה יודעות מה כתוב בו, המערכת לא תעבוד. קונור ליהי, מנהל ControlAI, ארגון ללא מטרת רווח המתמקד בהתמודדות עם סיכוני בינה מלאכותית, הוסיף כי הרגולציה הנחוצה למניעת סיכונים קטסטרופליים של בינה מלאכותית לא מבוקרת או של בינת-על אינה צריכה להיות וולונטרית. לטענתו, הצעד הנוכחי של הממשל אמנם מכיר בסכנה אך משאיר את נטל הבטיחות בידיהן של חברות שיש להן תמריץ להתקדם במלוא המהירות תוך התעלמות מרווחת הציבור.
התערבות ממשלתית גוברת ועיכוב פיתוחים
במהלך השנה וחצי האחרונות, גורמים רשמיים בבית הלבן מתלבטים כיצד לצמצם את הסיכונים של בינה מלאכותית מתקדמת מבלי לחנוק את החדשנות האמריקאית או לפנות את הבמה לטובת סין. הנשיא טראמפ חזר לתפקידו כשהוא מבטיח לנקוט גישה של אי-התערבות בנושא בינה מלאכותית, אך ממשלו מראה נכונות גוברת להתערב בסוגיה. לדוגמה, בחודש יוני נקט הממשל צעד חסר תקדים והטיל מגבלות ייצוא זמניות על המודלים המתקדמים ביותר של Anthropic בשל חששות לאבטחת סייבר. החלטה זו הובילה את Anthropic להסיר את המודלים שלה מהרשת לחלוטין עד שהצליחה להגיע להסכם עם ממשל טראמפ.
בהמשך אותו חודש, חברת OpenAI הודיעה כי היא דוחה את השקת מודל הבינה המלאכותית החדש ביותר שלה, GPT-5.6, בעקבות בקשה שקיבלה מהבית הלבן. מהלכים אלו עוררו מחאה מצד מנהלי טכנולוגיה בעמק הסיליקון, שהביעו חשש כי רגולציה מוגזמת עלולה לקבע מספר מצומצם של חברות כמנצחות הבלעדיות במירוץ הבינה המלאכותית.
הדיון סביב מודלים בקוד פתוח ויוזמת SAFE
נושא מרכזי נוסף שעומד לדיון בקרב גורמים רשמיים בארה"ב הוא האם להגביל את ההפצה של מודלי בינה מלאכותית בעלי משקולות פתוחות (open-weight), שניתן להוריד ולשנות באופן חופשי. חלק מהמודלים המובילים הללו מפותחים על ידי חברות סיניות והפכו לפופולריים בקרב חוקרים וחברות הזנק. כמה קולות בוושינגטון קראו להטיל איסור על מודלים סיניים בקוד פתוח, בעוד שאחרים קראו לקדם ולתמוך במודלים פתוחים מתוצרת ארה"ב כחלופה.
בשבוע שעבר חתמו למעלה מ-80 חברות על מכתב פתוח שאורגן על ידי חברת Nvidia, ובו ביקשו מהממשל האמריקאי להגן על מודלי בינה מלאכותית בעלי משקולות פתוחות. ביום שלישי השיקו Nvidia וקואליציית החברות פרויקט חדש בשם SAFE (Shared AI Findings Exchange). מטרת הפרויקט היא לאפשר לחברות טכנולוגיה לאסוף ולנתח באופן חסוי תקריות בינה מלאכותית וכמעט-תקריות, לזהות כשלים חוזרים במנגנוני בקרה ולפרסם המלצות הפעלה מבוססות ראיות שיפחיתו את הסיכון הסיסטמי, כך לפי פוסט שפרסמה Nvidia בבלוג שלה. בנוסף ל-Nvidia, חברות כמו Hugging Face ו-Red Hat הסכימו להשתתף בפרויקט, וארגון Linux Foundation קרא לארגונים נוספים לתרום לו תרומות קוד פתוח משלהם.
ג'סטין בויטאנו, סגן נשיא לבינה מלאכותית ארגונית ב-Nvidia, אמר בראיון ל-WIRED כי כענף תעשייתי, החברות מעוניינות לנהל את השיח הזה בפומבי. המטרה היא שפרויקט SAFE ינוהל באופן עצמאי, ללא שליטה של חברה בודדת או מגזר תעשייתי יחיד בממצאים שלו. בויטאנו סירב לציין האם Nvidia דנה במסגרת הפיקוח החדשה של הבית הלבן עם נציגי ממשל טראמפ, אך ציין כי לדעתו מסגרת SAFE היא מודל שיש לבחון אותו. במהלך כנס Agentic AI Summit שנערך בברקלי בסוף השבוע, מייסד שותף של OpenAI, וויצ'ך זרמבה, המשמש כראש תחום עמידות בינה מלאכותית בזרוע הפילנתרופית של החברה, אמר כי תעשיית הבינה המלאכותית נכנסת לעידן חדש. זרמבה השווה זאת למצב שבו המנעולים בבית מפסיקים לפתע לעבוד: 'זה העידן שאנו נכנסים אליו עם אבטחת סייבר... ההערכה שלי היא שזה יהיה כאוטי'.