לפי כתבה של מקסוול זף שפורסמה במגזין WIRED, חברת הבינה המלאכותית אנתרופיק (Anthropic) מובילה מהלך פוליטי משמעותי שמטרתו להאיץ ולהחמיר את הרגולציה על מודלי AI ברמת המדינות בארצות הברית. החברה, המוערכת כיום בשווי של כמעט טריליון דולר, הביעה בשנה שעברה תמיכה בגל הראשון של חוקי בטיחות ושקיפות עבור מודלי קצה (frontier AI) בקליפורניה ובניו יורק. מדובר בחוקים שחלקים נרחבים מעמק הסיליקון נלחמו נגדם בטענה שהם יבלמו את תנופת הפיתוח של הבינה המלאכותית. כעת, אנתרופיק טוענת כי חוקים אלו עשויים להיות כבר מיושנים, והיא דוחפת מדינות לאמץ רגולציות קשוחות אף יותר.
סזאר פרננדז (Cesar Fernandez), ראש תחום קשרי הממשל המדינתיים והמקומיים של אנתרופיק בארצות הברית, הסביר בראיון ל-WIRED כי "חוקי הבטיחות הממוקדים בשקיפות של שנת 2025 היו התחלה חשובה באמת, אך ככל שיכולותיהן של מערכות ה-AI ממשיכות להתקדם במהירות – התגובות של המדיניות הציבורית צריכות להתאים לקצב הזה". פרננדז הוסיף כי להשקפתה של החברה, "שקיפות ודיווח עצמי אינם מהווים עוד אמצעי בטיחות מספקים עבור מערכות ה-AI העוצמתיות ביותר".
חזון הבטיחות של אנתרופיק והחוקים הנוקשים באילינוי ובמסצ'וסטס
עבור חברת סטארט-אפ בעלת שווי כה גבוה, הגישה התומכת ברגולציה הדוקה עשויה להיראות חריגה, אך אנתרופיק פועלת תחת מודל ייחודי. כפי שנכתב בעבר ב-WIRED, מנהיגי אנתרופיק מאמינים שעליהם לבנות עסק ענק המבוסס על פיתוח ומכירת גישה לבינה מלאכותית מתקדמת, וזאת על מנת להגשים את משימת היסוד שלהם: להבטיח שהמעבר העולמי לבינה מלאכותית טרנספורמטיבית יתבצע באופן בטוח.
ככל שהחברה גדלה, היא החלה להביע תמיכה בכמה מהצעות החוק הנוקשות ביותר שהוצעו בארצות הברית נגד מפתחי מודלי AI מתקדמים. כללים אלו מיועדים להפחית סיכונים קטסטרופליים, ובכלל זה האפשרות שמודלים מתקדמים יסייעו ליצירת אסונות פיננסיים או לאירועים שיגרמו למקרי מוות המוניים. מעבר לחוקי הדיווח העצמי בקליפורניה ובניו יורק, אנתרופיק תמכה בהצעת חוק במדינת אילינוי המחייבת מעבדות AI להעביר את תהליכי הבטיחות שלהן להערכה של גורמי ביקורת חיצוניים (third-party auditors).
לאחרונה, הביעה החברה תמיכה גם בהצעת חוק במדינת מסצ'וסטס, אשר מעבר לדרישה לביקורת חיצונית במעבדות AI, מעניקה לתובע הכללי של המדינה סמכות לדרוש צווי מניעה (injunctive relief) נגד חברות שאינן עומדות בדרישות הבטיחות.
המומחיות של סזאר פרננדז והשיתוק בקונגרס האמריקאי
פרננדז, שהצטרף לאנתרופיק מוקדם יותר השנה, מביא עמו ניסיון עשיר במאבקי מדיניות מקומיים. בעבר הוא שימש כראש תחום קשרי הממשל המדינתיים בענקית הימורי הספורט FanDuel וכשותף בכיר למדיניות ציבורית בחברת Uber, וסייע לשתי החברות לנצח בקרבות רגולטוריים במדינות שונות ברחבי ארה"ב.
המומחיות שלו הופכת לחיונית במיוחד עבור אנתרופיק, לאור העובדה שהקונגרס האמריקאי ממשיך להתעכב ואינו מצליח להעביר רגולציה פדרלית מקיפה על בינה מלאכותית. כתוצאה מהשיתוק בוושינגטון, המדינות השונות בארה"ב הן אלו שלוקחות כעת את ההובלה ומעצבות את פני החקיקה בתחום.
ביקורת בעמק הסיליקון: האשמות על "שבי רגולטורי"
האג'נדה הפרו-רגולטורית של אנתרופיק זוכה לתמיכה מצד קבוצות בטיחות AI, איגודי עובדים ובעלי ברית של החברה, אך ישנם גורמים בעמק הסיליקון המפרשים את מאמציה הפוליטיים באור שלילי ומאשימים אותה במניעים נסתרים.
דייוויד סאקס (David Sacks), לשעבר צאר ה-AI של הבית הלבן ויועץ הטכנולוגיה הנוכחי של הנשיא דונלד טראמפ, טען כי אנתרופיק מנסה להעביר חוקים מסורבלים במטרה ללכוד סטארט-אפים קטנים ברשתות של ביורוקרטיה ("סרט אדום"), ובכך להבטיח את מעמדה המוביל במירוץ ה-AI ולמנוע תחרות. "אנתרופיק מנהלת אסטרטגיה מתוחכמת של שבי רגולטורי (regulatory capture) המבוססת על זריעת פחד", כתב סאקס בפרסום ברשתות החברתיות בשנה שעברה. לדבריו, החברה היא הגורם המרכזי שמוביל לסערת הרגולציה המדינתית שפוגעת באקוסיסטם של חברות הסטארט-אפ.
הגנת אנתרופיק: סף הכנסות ועלויות פיתוח גבוהות
פרננדז מכחיש לחלוטין את ההאשמות הללו של סאקס. הוא מציין כי אנתרופיק תמכה אך ורק בהצעות חוק מדינתיות המכוונות ל"מפתחי מודלי AI גדולים". הגדרה זו מנוסחת באופן שונה בכל הצעת חוק, אך באופן כללי היא מתייחסת לחברות שהוציאו מאות מיליוני דולרים על פיתוח AI ושהכנסותיהן השנתיות עולות על 500 מיליון דולר. "קשה לדמיין חברת סטארט-אפ שעומדת בסף הזה", אמר פרננדז בראיון.
עם זאת, בעולם שבו פיתוח מודל AI מתקדם ותחרותי דורש גיוס הון בהיקף של מיליארדי דולרים, קיימות חברות סטארט-אפ מבטיחות שעשויות להגיע לספים הללו בעתיד הנראה לעין. חברות כמו Safe Superintelligence, Thinking Machines Lab ו-Mistral גייסו כולן מיליארדי דולרים ממשקיעים, על אף שהכנסותיהן הנוכחיות נותרו נמוכות משמעותית מאלו של חברות ענק כמו אנתרופיק או OpenAI. אמנם לא מדובר בסטארט-אפים שגרתיים, אך הן בהחלט מהוות מתחרות פוטנציאליות של אנתרופיק.
מנגד, הטיעון המרכזי של פרננדז הוא שכל חברה גדולה מספיק כדי לפתח מודל AI עוצמתי צריכה להיות כפופה לאותן רגולציות, מכיוס שכל המודלים חולקים את אותם סיכונים בסיסיים. הוא ציין כי חלק ממטרתה של אנתרופיק הוא "לעורר מירוץ לצמרת בפיתוח מערכות ה-AI הבטוחות והמאובטחות ביותר", משימה הכוללת דחיפה לחקיקה ממשלתית. "המשימה שלנו היא לוודא שהמעבר לעולם עם AI מתקדם יעבור בשלום עבור האזרחים והאנושות כולה", אמר פרננדז.
הגבול הרגולטורי: סמכויות המדינות מול הממשל הפדרלי
למרות המאמצים ברמת המדינות, אנתרופיק מציבה קווים אדומים ברורים בנוגע למה שמדינות רשאיות לעשות בהיעדר חקיקה פדרלית. במסמך מדיניות שפרסמה החברה בחודש שעבר, היא המליצה לממשלות להחזיק במנגנון המאפשר לחסום חברות מלהפיץ מודלי AI חדשים אם הם נקבעים כלא בטוחים.
המלצה זו נראית מעט אירונית, בהתחשב בכך שממשל טראמפ הורה לאחרונה לאנתרופיק להשעות את הגישה לשני המודלים החזקים ביותר שלה – Mythos ו-Fable 5 – עבור אזרחים זרים, צעד שהחברה לא ראתה בעין יפה. אנתרופיק סבורה כי הסמכות לחסום הפצה של מודלי AI לא בטוחים צריכה להיות שמורה באופן בלעדי לממשל הפדרלי, ולא למחוקקים ברמת המדינות, אם כי פרננדז ציין כי מדובר בדיון מתפתח.
לאחר שממשל טראמפ שלח לחברה את הנחיית בקרת הייצוא שאילצה אותה להוריד את מודלי Mythos ו-Fable 5 מהרשת עבור כלל המשתמשים, אנתרופיק פרסמה פוסט בבלוג שלה ובו טענה כי חסימת הפצה של מודלים צריכה להתבצע אך ורק דרך תהליך הערכה הוגן ושקוף.
האשמות כלפי עליבאבא והמחלוקת סביב קוד פתוח
פרננדז נמנע מלהרחיב על עבודת המדיניות הפדרלית של החברה, שאינה תחת סמכותו, אך החברה פועלת במרץ גם בוושינגטון. בחודש שעבר שלחה אנתרופיק מכתב לממשל האמריקאי שבו האשימה את ענקית הטכנולוגיה הסינית עליבאבא (Alibaba) בביצוע "מתקפת זיקוק" (distillation attack) – שליפת מידע שיטתית ממודלי אנתרופיק באמצעות הנחיות (prompts) מתוחכמות כדי לפתח כלי AI משלה.
חלק מחוקרי ה-AI דחו את ההאשמות הללו וראו בהן ניסיון נוסף ל"שבי רגולטורי". חוקרים אלו טענו כי מטרתה האמיתית של אנתרופיק היא להפעיל לחץ על הממשל האמריקאי לאסור שימוש במודלים סיניים בעלי קוד פתוח (open-weight), צעד שעשוי לאלץ אלפי עסקים אמריקאיים המסתמכים עליהם לעבור להשתמש במוצרים הארגוניים של אנתרופיק. מנכ"ל אנתרופיק, דאריו אמודיי (Dario Amodei), אף הזהיר בעבר את הקונגרס מפני הסכנות הכרוכות בבינה מלאכותית בקוד פתוח. ברמת המדינה, פרננדז מבהיר כי אנתרופיק לא התמקדה במודלים של קוד פתוח במסגרת הצעות החוק שתמכה בהן, אלא הדגישה כי המפתח הוא יכולות המודל והסיכונים שלו.
סדרי עדיפויות חקיקתיים: דאגות הציבור מול סיכונים קטסטרופליים
החששות המועלים לעיתים קרובות יותר על ידי הבוחרים האמריקאים – כמו אובדן מקומות עבודה פוטנציאלי לטובת הטכנולוגיה, ההשפעות הסביבתיות והקהילתיות של הקמת מרכזי נתונים חדשים, והשפעות הצ'אטבוטים על ילדים – לא הניעו קמפיין חקיקה פוליטי דומה מצד מעבדות ה-AI הגדולות.
אמנם אנתרופיק וכמה ממתחרותיה הבטיחו כי משלמי המסים הרגילים לא ייאלצו לשלם עבור מרכזי הנתונים, ואנתרופיק אף פרסמה הצעות להתמודדות עם אובדן מקומות עבודה עתידי עקב השימוש ב-AI, אך התעשייה השקיעה כוח פוליטי מועט משמעותית בחוקים מדינתיים המטפלים בבעיות יומיומיות אלו.
כשנשאל על פער זה בסדרי העדיפויות, השיב פרננדז כי אנתרופיק "משתוקקת לשתף פעולה עם מחוקקים" בנושאים שונים שמעבר לסיכונים קטסטרופליים, וכי היא כבר מקיימת שיחות כאלו במדינות שונות. עם זאת, נכון לעכשיו, שיחות אלו לא תורגמו למאמץ מדינתי מתואם ומאורגן כמו זה שאנתרופיק מובילה סביב סיכוני הבטיחות והקיום של מודלי הקצה.