בדיווח שפורסם באתר TechCrunch על ידי הכתבת רבקה בלן (Rebecca Bellan), עולה כי בעוד מקבלי החלטות דנים בדרכים להסדרת מודלי בינה מלאכותית עוצמתיים כמו GPT-5.6 Sol של OpenAI ו-Mythos של Anthropic, מודל סיני בעל משקולות פתוחות (open-weight) צמצם משמעותית את הפער מול המודלים המובילים בתעשייה. מדובר במודל GLM-5.2 של החברה הסינית Z.ai. לפי דוח חדש של עמותת SaferAI, העוסקת בבטיחות בינה מלאכותית, המודל מפגר בחודשים ספורים בלבד אחרי המודלים המובילים GPT-5.5 של OpenAI ו-Claude Opus 4.7 של Anthropic בכל הנוגע ליכולות סייבר ויכולות ביולוגיות דו-שימושיות (dual-use biology). עם זאת, הדוח מדגיש כי לצד צמצום פער היכולות, הפער בתחום הבטיחות ומנגנוני ההגנה הולך ומתרחב באופן מדאיג.
צמצום פערי היכולות והתרחבות פער הבטיחות
הערכת הבטיחות של SaferAI, שבוצעה באמצעות ממשק תכנות היישומים הציבורי (API) של Z.ai, העלתה ממצאים חד-משמעיים: מודל GLM-5.2 לא סירב לאף אחת ממשימות הסייבר ההתקפיות או המשימות הביולוגיות הדו-שימושיות שהוצגו בפניו. לשם השוואה, המודל Claude Opus 4.7 של Anthropic סירב לבצע את המשימות הללו בעקביות כה רבה, עד שחוקרי SaferAI לא יכלו להשלים עליו את מבחן ההערכה CyberGym כלל.
מבחן ההערכה CyberGym הוא כלי המיועד להעריך יכולות אבטחת סייבר. כלי זה שימש את חברת OpenAI בהערכת הבטיחות שביצעה לפני פריצת האבטחה שהתרחשה בחודש שעבר בפלטפורמת Hugging Face. הממצאים הללו מהווים תזכורת חדה לטענותיהם של מבקרים רבים לאורך השנים, אשר הזהירו כי מודלים עם משקולות פתוחות עלולים להציב בינה מלאכותית בעלת יכולות מתקדמות ביותר בידיהם של תוקפים פוטנציאליים, מבלי שתהיה כל דרך לפקח או לשלוט על האופן שבו הם משתמשים בטכנולוגיה לאחר שהורידו את משקולות המודל למחשביהם האישיים. כאשר המודלים הפתוחים מתקרבים במהירות ליכולות של המערכות המובילות בעולם, הדיון הציבורי והמקצועי משתנה: הוא כבר אינו עוסק בשאלה האם מודלים אלו מסוגלים להתחרות במודלים הסגורים, אלא כיצד החברה יכולה לנהל את הסיכונים הכרוכים בהם לאחר שהם משוחררים לציבור.
מגבלות מנגנוני ההגנה במודלים פתוחים לעומת מודלים סגורים
הנרי פאפאדאטוס (Henry Papadatos), המנהל המבצעי של SaferAI, הסביר בראיון ל-TechCrunch כי גבול היכולת אינו זהה לגבול הסיכון. לדבריו, כדי להעריך את הסיכון בצורה נאותה, יש לקחת בחשבון גם את מצב מנגנוני ההגנה והפחתת הסיכונים הקיימים במערכת.
בעוד שחברת Z.ai יכולה להחיל אמצעי בטיחות ומגבלות על ה-API המאוחסן אצלה, הגנות אלו הופכות לבלתי ניתנות לאכיפה ברגע שמשתמש מריץ את משקולות המודל על גבי החומרה הפרטית שלו. במצב כזה, המשתמשים יכולים להסיר או לשנות כל מנגנון הגנה, לבצע כוונון עדין (fine-tuning) למודלים בהתאם לצרכיהם, או פשוט לשנות את הנחיות המערכת (system prompts).
מפתחי מודלים סגורים ומובילים, דוגמת OpenAI ו-Anthropic, נוטים להסתמך על אמצעי הגנה כגון מסווגים (classifiers), אימוני סירוב (refusal training), ובקרות ברמת ה-API כדי להגביל סיוע בתחומי סייבר מסוכנים או פיתוחים ביולוגיים. עם זאת, אמצעים אלו רחוקים מלהיות חסינים לחלוטין. פריצות אבטחה מבוססות מניפולציה (jailbreaks) עוקפות באופן שגרתי את מנגנוני ההגנה של מודלים פעילים. עמותת הבטיחות Far.ai מצאה מאות מקרים של "פריצות אוניברסליות" (universal jailbreaks) – המוגדרות כמפתחות שימוש חוזרים המצליחים לעקוף הגנות ברוב הבקשות המזיקות – במודלים מובילים וסגורים כמו Grok 4.5 של xAI ו-Gemini 3.1 Pro של Google DeepMind.
על פי הדוח, פריצות אלו מצליחות כאשר התוקפים משלבים מספר טכניקות מניפולציה במקביל – כולל משחקי תפקידים (roleplaying), התחזות לבעלי סמכות, יצירת היסטוריית שיחות מזויפת והנחיות המשך עוקבות – כדי להגביר ולהעצים נקודות תורפה קיימות במערכות ההגנה של המודל. אולם, הגנות אלו, המיושמות במודלים סגורים, אינן פועלות כלל במודלים בעלי משקולות פתוחות, אשר תוכננו מראש לפעול על גבי כל תשתית מחשוב ללא תלות במערכת הגנה כלשהי. פאפאדאטוס ציין כי היעד המרכזי צריך להיות הנגשת היכולות הבטוחות לכלל הציבור, תוך ניסיון להסיר את היכולות המזיקות, גם כאשר מדובר בפיתוח קוד פתוח.
שיטות סינון נתונים ומגבלותיהן בתחום הסייבר והתכנות
אחת הטכניקות שציין פאפאדאטוס ככאלה שיכולות לסייע היא סינון נתונים בשלב האימון המקדים (pre-training data filtering). בשיטה זו, חברת הבינה המלאכותית מסירה מידע פוגעני או רגיש בתחום אבטחת הסייבר מחומרי הלמידה של המודל, ורק לאחר מכן מאמנת את המודל על גבי מאגר הנתונים המפוקח. מחקרים מסוימים מצביעים על כך ששיטה זו יכולה להפחית ידע ביולוגי מסוכן מבלי לפגוע בביצועים הכלליים של המודל במשימות אחרות.
עם זאת, כאשר מדובר באבטחת סייבר, סינון הנתונים הופך להרבה פחות מעשי ויעיל. קיים קושי מהותי לאמן מודל כללי שיצטיין בכתיבת קוד ותכנות, אך בו בזמן לא יחזיק ביכולות המאפיינות האקרים ותוקפי סייבר. מאחר וכתיבת קוד ותכנות הפכו למקור ההכנסה והרווח הגדול ביותר של חברות הבינה המלאכותית, המפתחים מתמודדים עם לחצים מסחריים כבדים להמשיך ולשפר את היכולות הללו, גם בזמן שהם מחפשים דרכים להגביל את השימוש המזיק בהן.
בשל כך, מפתחי המודלים המובילים מסתמכים יותר ויותר על שיטות הפחתת סיכונים חלופיות. גישה אחת היא הגבלה סלקטיבית של סוגי הסיוע באבטחת סייבר שהמודלים יספקו. לדוגמה, המודל Claude Opus 5 של חברת Anthropic מסוגל לחפש נקודות תורפה בקוד מקור שטרם עבר הידור (uncompiled source code), אך אינו מאפשר חיפוש כזה בתוכנות שכבר עברו הידור (compiled software), כפי שמפורט בכרטיס המערכת (system card) של המודל. הנימוק מאחורי הגבלה זו הוא שהיא מקשה על השימוש במודל Opus 5 למטרות התקפיות.
אמצעים נוספים כוללים ביצוע הערכות בטיחות קפדניות לפני פריסת המודל, פרסום הערכות סיכונים מפורטות, ואף מניעת שחרור משקולות המודל לציבור אם המערכת נתפסת כמסוכנת מדי. במקרה של GLM-5.2, לפי SaferAI חברת Z.ai לא פרסמה כל מסגרת בטיחות (safety framework), התחייבויות לבדיקות מקדימות לפני פריסה, או הערכת סיכונים עבור המודל. אתר TechCrunch פנה לחברת Z.ai בשאלה האם החברה ביצעה הערכות בטיחות פנימיות או הערכות של צד שלישי לפני שחרור המודל, אך לא התקבלה תגובה מצד החברה.
המדיניות הסינית והבדלי הגישות בין ארה"ב לסין
המנהיגות הסינית מביעה לאחרונה הכרה גוברת בסיכונים הטמונים בבינה מלאכותית מתקדמת. בוועידת הבינה המלאכותית העולמית (World AI Conference) שהתקיימה בחודש שעבר, הדגיש נשיא סין שי ג'ינפינג (Xi Jinping) את החשיבות של מודלים בעלי משקולות פתוחות, אך במקביל הדגיש את ההכרח להבטיח שהבינה המלאכותית תישאר כלי שנמצא תחת שליטה אנושית קפדנית.
גראהם ובסטר (Graham Webster), חוקר מדיניות בינה מלאכותית סינית במרכז למדיניות סייבר באוניברסיטת סטנפורד (Stanford Cyber Policy Center), הסביר ל-TechCrunch כי לסין יש רגולציה חזקה ומבוססת המפקחת על בינה מלאכותית, אך מבחינה היסטורית כללים אלו התמקדו בתכנים רגישים מבחינה פוליטית, במניעת הפצת מידע כוזב (misinformation) ובשמירה על יציבות חברתית, ולא בסיכונים קטסטרופליים של בינה מלאכותית כגון יכולות סייבר התקפיות או שימוש לרעה בביולוגיה.
לדברי ובסטר, הוגי דעות וחוקרים בתחום הבינה המלאכותית בארצות הברית מוטרדים בדרך כלל מהרעיון של סיכונים קטסטרופליים וקיומיים (existential catastrophic risks) הרבה יותר מאשר הקהילה המקבילה להם בסין. הוא הוסיף כי חוקרי מדיניות סינים רבים מאמינים שאם אכן יתממש סיכון חדש ופורץ דרך מצד מודלי הקצה, החברות האמריקאיות יהיו ככל הנראה הראשונות להיתקל בו.
ובסטר המשיך והסביר כי למערכת הסינית יש ביטחון עצמי רב ביכולתה לשלוט בשימוש בטכנולוגיות אלו בתוך גבולות סין. הגלישה באינטרנט בסין מותנית בזיהוי המשתמשים באמצעות שמם האמיתי, וחברות ומשתמשים כאחד נושאים באחריות משפטית מלאה למעשיהם. ובסטר העלה השערה כי המנגנון המשמש כיום את ספקי המודלים כדי לסרב לעסוק בנושאים פוליטיים מסוימים יכול לעבור התאמה כדי להבטיח שהמודלים יסרבו לבצע התקפות סייבר התקפיות או לספק תוצאות מסוכנות בתחום ההנדסה הביולוגית. הוא ציין כי מאחר שחברות סיניות נוטות לתאם את פעילותן עם הרגולטורים מאחורי הקלעים, קשה מאוד לדעת אילו בדיקות פנימיות הן עורכות לפני שחרור המודלים לציבור.
הוויכוח על תפקידם של מודלים פתוחים בהגנת סייבר
מצדדי גישת הבינה המלאכותית בקוד פתוח טוענים כי שחרור משקולות המודל חיוני דווקא לצורכי הגנת סייבר, כיוון שהוא מאפשר לחברות להגן על עצמן מפני תקיפות. לדוגמה, פלתפורמת Hugging Face הסתמכה על המודל GLM-5.2 כדי להגן על עצמה מפני פריצת האבטחה שביצעה OpenAI. לטענת התומכים, גישה זו מאפשרת להיערך טוב יותר לאיומים עתידיים ברגע שיודעים למה לצפות.
קלם דלאנג (Clem Delangue), מנכ"ל Hugging Face, כתב השבוע בפוסט ברשתות החברתיות כי המערכות שסייעו לעצור מתקפת סייבר מבוססת בינה מלאכותית יכולות כעת לסייע בהגנה מפני מיליוני מתקפות סייבר מדי יום, תוך עזרה בזיהוי ותיקון נקודות תורפה לפני שהתוקפים ינצלו אותן.
מנגד, הנרי פאפאדאטוס מ-SaferAI טוען כי תועלת זו מוגזמת לעיתים קרובות, ואין פירושה שצריך לשחרר יכולות מסוכנות בקוד פתוח לכל דורש. פאפאדאטוס הדגיש כי הנקודה המרכזית לדעתו היא שאסור לקבל כמובן מאליו את הנגישות הקלה של יכולות מסוכנות לכל אדם ובכל מקום, וכי על התעשייה לשאוף לכך שרק היכולות הבטוחות והמועילות יהיו נגישות בקלות. לדבריו, כברירת מחדל, תוקפים מאמצים כלים חדשים מהר יותר מאשר מגינים. לדוגמה, קבוצת כופר (ransomware group) יכולה לשנות את שיטות הפעולה שלה בתוך שבוע אחד בלבד, בעוד שבית חולים אינו מסוגל לעשות זאת במהירות כזו.