מבוא: התגובה הרשמית של דאריו אמודאי לשמועות בתעשייה
לפי דיווח במגזין TechCrunch, דאריו אמודאי (Dario Amodei), המייסד השותף ומנכ"ל חברת הבינה המלאכותית אנתרופיק (Anthropic), פרסם ביום שני אחר הצהריים הבהרה רשמית וחד-משמעית. תגובתו של אמודאי מגיעה בעקבות שמועות ורינונים שהופצו בתעשיית הטכנולוגיה, לפיהם אנתרופיק תומכת כביכול במאמצים של ממשלת ארצות הברית להטיל איסור על מודלים של בינה מלאכותית בעלי משקולות פתוחות (open-weight) שמקורם בסין, או אף על מודלים בעלי משקולות פתוחות באופן כללי. אמודאי ביקש להפריך שמועות אלו לחלוטין ולהבהיר את עמדת החברה באופן שאינו משתמע לשני פנים, תוך שהוא מדגיש כי החברה מעולם לא קראה לאיסורים מעוגנים כאלה.
הבהרת עמדת אנתרופיק בנוגע למודלים של משקולות פתוחות
בפוסט מפורט שפרסם בבלוג שלו ביום שני, כתב אמודאי באופן ישיר והדגיש את דבריו בעצמו: "כל מי שקרא את מה שכתבתי בעבר צריך לדעת שאני לא רואה באיסורים כאלה אמצעי מועיל, אבל הרשו לי להצהיר זאת בבירור כדי שלא יהיה ספק: אנתרופיק מעולם לא דחפה או קראה לאיסור על מודלים בעלי משקולות פתוחות".
תגובה זו של מנכ"ל אנתרופיק מגיעה ימים ספורים לאחר שג'נסן הואנג (Jensen Huang), המייסד והמנכ"ל של ענקית השבבים אנבידיה (Nvidia), פרסם ביום שישי מכתב פתוח ברשת החברתית X. פרסום זה היה הפוסט הראשון אי פעם של הואנג בפלטפורמה זו. המכתב נחתם על ידי שורה ארוכה של חברות מובילות בתחום הבינה המלאכותית, ובהן Hugging Face, Meta, Microsoft, Mistral וכמובן Nvidia עצמה. במכתב המשותף, קראו החברות לקובעי המדיניות להימנע מהטלת מגבלות רחבות ו"טרם זמנן" על דגמי בינה מלאכותית בעלי משקולות פתוחות.
הוויכוח בתעשייה סביב סין ושיטת הזיקוק (Distillation)
למרות שהמכתב הפתוח של אנבידיה והחברות האחרות לא הזכיר את סין באופן ספציפי, הדיון בתעשייה התרכז במידה רבה בטענות לפיהן מעבדות בינה מלאכותית סיניות מפתחות ומשפרות את היכולות שלהן, לעיתים קרובות על ידי גניבת קניין רוחני של חברות אמריקאיות מקבילות. אחת השיטות המרכזיות המוזכרות בהקשר זה היא שיטת ה"זיקוק" (distillation). בשיטה זו, מודל בינה מלאכותית אחד "מפציץ" מודל אחר בכמות עצומה של הנחיות (prompts) כדי ללמוד ולנתח את אופן פעולתו הפנימי ואת דרך קבלת ההחלטות שלו, ובכך להעתיק את יכולותיו.
בבלוג שפרסם ביום שני, הסביר אמודאי כי לראייתו, מודלים בעלי משקולות פתוחות שייכים לקטגוריה אחרת לחלוטין מזו של האיום הישיר הנשקף מצד סין. אמודאי כתב בפוסט: "מודלים בעלי משקולות פתוחות שאינם מחזיקים ביכולות מסוכנות הם מוצר ציבורי: הם אינם דורשים עלויות נוספות מעבר לכוח המחשוב הנחוץ כדי להפעיל אותם, והם מספקים ערך רב לעסקים, למפתחים ולחוקרים כאחד". הוא הבהיר כי הוא אינו רואה בעיה בשימוש של עסקים במודלים הללו, גם כאשר מדובר במודלים שמקורם בסין.
החששות מפני ממשלים סמכותניים ונשק ביולוגי
אמודאי שיתף כי יש לו חששות עמוקים וארוכי שנים לגבי תחום הבינה המלאכותית, אך שימוש עסקי רגיל במודלים פתוחים אינו אחד מהם. החשש המרכזי שלו ממוקד בכך ש"ממשלים סמכותניים" (authoritarian governments) יפתחו מודלים חזקים ומתקדמים יותר מאלה הקיימים בארצות הברית, ובאמצעותם ישיגו "עליונות צבאית קבועה" או ישתמשו בטכנולוגיה הזו כדי לדכא את אזרחיהם שלהם. הוא ציין כי המפלגה הקומוניסטית הסינית (CCP) אינה הממשל הסמכותני היחיד שמדאיג אותו, אך היא ללא ספק הממשל בעל היכולות הטכנולוגיות והמבצעיות הגבוהות ביותר.
מעבר לכך, אמודאי הביע חשש כבד מכך שבינה מלאכותית מתקדמת תאפשר ותקל על ביצוע של "מתקפות ביולוגיות" (biological attacks), ולא רק מתקפות בתחום אבטחת הסייבר (cybersecurity). לדעתו, מודלים בעלי משקולות פתוחות מציגים רמת סיכון גבוהה במיוחד בתרחישים כאלה, משום שקשה מאוד להחיל עליהם חסמי בטיחות (guardrails) יעילים או לפקח על אופן השימוש בהם בפועל לאחר שחרורם. הוא תמך בטענה זו באמצעות אזכור של דוח מטעם המכון לבטיחות בינה מלאכותית של בריטניה (UK AI Security Institute), אשר קבע כי מרגע שמודל בעל משקולות פתוחות משוחרר לציבור, לא ניתן למשוך אותו בחזרה או למנוע את הפצתו.
השקפה זו של אמודאי עומדת בסתירה מוחלטת לטיעונים המרכזיים של תומכי תנועת הקוד הפתוח בתחום הבינה המלאכותית. לטענתם של תומכי הקוד הפתוח, מתן גישה חופשית למודלים חזקים שאינם נשלטים באופן בלעדי על ידי ישות מסחרית אחת דווקא מסייע לגורמי הגנה להגן על עצמם ולפתח כלים להתמודדות עם איומים בצורה יעילה יותר.
הצעדים המוצעים לבלימת סין והפיקוח על קניין רוחני
כדי להתמודד עם האיום מצד סין, אמודאי פירט שורה של צעדים שלדעתו יכולים לסכל ולבלום את התקדמותה של המדינה בתחום זה. צעדים אלו כוללים הגבלת הגישה של סין לשבבי מחשוב חזקים – מהלך שמהווה מדיניות ותיקה ומתמשכת של ממשלת ארצות הברית – וכן קריאה לנקיטת צעדים רשמיים וברורים כדי להילחם בתופעת הזיקוק (distillation). ארצות הברית כבר איימה בעבר בהטלת סנקציות נגד סין אם ייקבע באופן רשמי כי בוצעה גניבה של קניין רוחני הקשור למודלים אמריקאיים.
שיתוף פעולה גלובלי ומערך בדיקות בטיחות אחיד
באופן מעניין, מנכ"ל אנתרופיק ציין בבלוג כי הוא תומך במאמצים הגוברים, שחלקם מובלים על ידי ארצות הברית, להקמת ארגון ייעודי לבדיקת בטיחות של מודלים של בינה מלאכותית. הוא הדגיש כי הוא תומך ביוזמה זו במיוחד אם העולם כולו, ובכלל זה סין, יסכים להשתתף בבדיקות אלו ולהיכנע להן באופן שווה.
אמודאי כתב בפוסט שלו: "אני חושב שהרעיון הזה למעשה קרוב לקונצנזוס. שאבתי עידוד רב הן מכך שממשל טראמפ פעל בכיוון זה בחודשים האחרונים, והן מהצעות אחרונות שהועלו בתעשייה, אשר יחילו בדיקות בטיחות כאלה על המודלים בעלי היכולות הגבוהות ביותר, ללא קשר למדינת המקור שלהם או לשאלה האם מדובר במודל פתוח או סגור (תוך מתן פטור מלא למודלים בעלי יכולות פחותות, כגון אלה שמפותחים על ידי סטארט-אפים או באקדמיה)".
לסיום, הוסיף אמודאי כי כדי שמערך בדיקות כזה יהיה אפקטיבי באמת, הוא חייב להיות גלובלי, מה שאומר שאפילו המפלגה הקומוניסטית הסינית תצטרך להיות חלק ממנו ולהסכים לתנאיו. להערכתו, מהלך כזה עשוי להיות אפשרי ובר-ביצוע: "שיתוף פעולה מוגבל סביב מניעת פיתוח של נשק ביולוגי מבוסס בינה מלאכותית עשוי להיות אפשרי, מכיוון שמניעת איומים כאלה היא אינטרס מובהק גם של סין עצמה".