על רקע החששות הגוברים בנושאי בטיחות של בינה מלאכותית (AI), ובזמן שיוזמות כמו "Pacing the Frontier" נושאות עיניים למעבדות הגדולות כאמצעי לשמירה על בטיחות המחקר, סוגיית מודלי הקוד הפתוח הופכת לנקודת מחלוקת מרכזית בתעשייה. מודלים בעלי משקולות פתוחות (open-weight models), המופצים באופן חופשי וללא שליטה הדוקה על אופן השימוש בהם, נתפסים על ידי חלק מהמעבדות כגורם מאיים שקשה לפקח עליו. אולם, כפי שדווח ב-TechCrunch, במהלך כנס Ai4 שהתקיים בשבוע שעבר בלאס וגאס, שלושה מחלוצי הבינה המלאכותית המובילים בעולם – חתן פרס נובל ג'פרי הינטון, מנכ"לית ומייסדת שותפה של World Labs פיי-פיי לי, ומייסד שותף של Coursera אנדרו אנג – הציגו עמדות תקיפות בנושא. למרות חילוקי דעות לגבי הטקטיקות הספציפיות, השלושה הציגו טיעונים כבדי משקל בזכות השארת תחום הבינה המלאכותית פתוח ונגיש לציבור הרחב.
החשש מפני שליטת שומרי סף ופגיעה בחדשנות
עבור שלושת הדוברים, החשש הליבתי היה האפשרות שקומץ חברות בינה מלאכותית גדולות ישלטו בקצב ההתקדמות הטכנולוגית. אנדרו אנג הדגיש את הדמיון למצב הקיים במערכות ההפעלה לניידים, שבהן חברות כמו אפל וגוגל משמשות כשומרי סף, דבר שעלול להאט את החדשנות ולהעניק לחברות השולטות בפלטפורמה השפעה מכרעת על מה שיפותח עליהן. אנג הביע דאגה עמוקה מכך שדינמיקה דומה תתפתח גם בתחום הבינה המלאכותית. "אני לא רוצה שיהיו שומרי סף", אמר אנג במהלך הפאנל, והוסיף כי קיומם של שומרי סף כאלה מגביל את הדרך שבה כולנו יכולים לגשת לבינה מלאכותית.
הדוברים הסבירו כי לחברות מסחריות יש אינטרס מובהק להגן על היתרונות התחרותיים שלהן, בין היתר על ידי השפעה על הכללים והרגולציה השולטים בתעשייה. השפעה זו עלולה ליצור מצב שבו רק לחברות הגדולות והממומנות ביותר יהיו המשאבים הדרושים לבניית מערכות הבינה המלאכותית המתקדמות ביותר. הפתרון של אנג לבעיה זו הוא שמירה על ריבוי של ספקי טכנולוגיה, כך שמודלים וחברות שונות יתחרו אלה באלה, במקום לאפשר למספר מצומצם של שחקנים לשלוט בשוק כולו. "אם הייתי צריך לתת מרשם אחד, זה היה לעודד פתיחות", ציין אנג, "מכיוון שבינה מלאכותית היא טכנולוגיה מדהימה ואני רוצה שהיא תהיה בידיו של כל אחד".
ההבחנה של ג'פרי הינטון בין קוד פתוח למשקולות פתוחות
עם זאת, לא כל חברי הפאנל הסכימו כי הפצת מודלים בעלי משקולות פתוחות היא הדרך הנכונה לשמר את התחרות והנגישות. ג'פרי הינטון הציג הבחנה ברורה וחשובה בין תוכנה חופשית וקוד פתוח (open-source software), לבין מודלים בעלי משקולות פתוחות (open-weight models). לפי הינטון, קוד פתוח מסורתי הוא חיובי מאוד כיוון שהוא מציג לציבור את שורות הקוד ומאפשר לאנשים רבים לבחון אותו ולמצוא באגים. לעומת זאת, משקולות פתוחות משמעותן היא אימון של מודל ענק ויקר, ולאחר מכן חלוקת המשקולות המאומנות לציבור הרחב – תהליך שהוא שונה לחלוטין במהותו.
הינטון הסביר כי בעבר התנגד למשקולות פתוחות מכיוון שגישה זו מקלה באופן משמעותי על גורמים שונים לקחת מודלי יסוד גדולים, שאימונם היה יקר מאוד, ולאמן אותם מחדש בעלות נמוכה בהרבה כדי לבצע פעולות מזיקות, כגון מתקפות סייבר. עם זאת, למרות הסתייגויותיו, הינטון הודה במהלך הכנס כי המודלים בעלי המשקולות הפתוחות כבר הפכו לחלק קבוע ובלתי נפרד מנוף הבינה המלאכותית. "אני חושב שהקרב הזה הוכרע", אמר הינטון, "יש לנו כעת מודלים בעלי משקולות פתוחות, ולכן המחסום שעמד בפני אנשים רבים בבואם להשיג את המודלים הגדולים הללו – שהיה עלות האימון של מודלי היסוד – נעלם. זה כבר מאוחר מדי".
התייחסות לסיכונים וליתרונות של קידום הטכנולוגיה
למרות קבלת המציאות הקיימת, הינטון הדגיש כי אין פירוש הדבר שיש להתעלם מהסיכונים הכרוכים בטכנולוגיה. עמדתו של הינטון נותרה ברורה: הבינה המלאכותית תמשיך להתקדם, והוא סבור כי מדובר בדבר חיובי ברובו הגדול. He ציין כי הטכנולוגיה תגביר את הפרודוקטיביות ותשפר באופן ניכר את תחומי החינוך והבריאות. במקביל, הוא הגן על החששות מפני השפעות שליליות אפשריות: "הדאגה מההשפעות הרעות האפשריות של בינה מלאכותית ומהדברים שיישויות תבוניות עלולות לעשות כאשר הן יהיו חכמות מאיתנו – אני לא חושב שזה לא הוגן. אני חושב שזה לא הוגן לתייג כל מי שחושב כך כמפיץ פחד", הוסיף הינטון.
אנדרו אנג מזהיר מהפסד בתחרות הגיאופוליטית מול סין
אנדרו אנג הציג נקודת מבט שונה במקצת על הנושא. לטענתו, השאלה המרכזית אינה רק האם מודלים פתוחים כרוכים בסיכון, אלא מי ישלוט בגישה אליהם ומי ינצח בשוק הגלובלי. אנג הסביר כי מי שיפתח את המודל הזול יותר ייהנה מיתרון מובהק. הוא הזהיר כי אם המודלים בעלי המשקולות הפתוחות של סין יזכו לאימוץ נרחב ברחבי אסיה, אפריקה ו/או המדינות המתפתחות, הם עלולים להשפיע על האופן שבו מיליארדי בני אדם נחשפים לרעיונות הנוגעים לדמוקרטיה, חופש וזכויות אדם.
"דבר אחד שאני מקווה שנעשה הוא לעודד את כושר התחרות האמריקאי ואת הבינה המלאכותית בקוד פתוח", אמר אנג. הוא הסביר כי בינה מלאכותית מהווה מקור עצום לעוצמה רכה (soft power), כפי שניתן לראות בהצלחה הרבה ובהישגים של המודלים הסיניים באפריקה, למשל. החשש הגדול של אנג הוא שבעקבות פעילות לובינג מסיבית בארצות הברית והפצת פחד (fear-mongering), פיתוח בינה מלאכותית בקוד פתוח באמריקה נתקל בקשיים להתחרות במודלים בעלי משקולות פתוחות שמגיעים מסין. אנג הביע חשש שאם סין תמצא דרך יעילה וזולה משמעותית מבחינה כלכלית לבנות בינה מלאכותית, לטכנולוגיות חסכוניות יותר יהיה יתרון אימוץ עסקי בסיסי ומכריע בשוק הגלובלי.
פיי-פיי לי מציעה מודל רב-שכבתי והשוואה לפיזיקה גרעינית
פיי-פיי לי התנגדה למסגור הדיכוטומי של הנושא. לטענתה, מדובר בטעות להציג את הסוגיה כבחירה בינארית בין פתיחות מוחלטת לבין סגירות מוחלטת. "במערכות תוכנה מורכבות, כמו גם במערכות מדעיות, הנושא הרבה יותר מורכב ומלא בניואנסים", הסבירה לי. כדי להמחיש את עמדתה, הציגה לי את ענף הפיזיקה הגרעינית כדוגמה: מאמרים מדעיים בתחום מפורסמים באופן פתוח לחלוטין לציבור, מנגד האורניום עצמו נמצא תחת רגולציה הדוקה, ואילו העבודה במעבדות המחקר ממוקמת בטווח שבין שני הקצוות הללו.
הלקח המרכזי מהדוגמה הזו, לדברי לי, הוא שפתיחות אינה חייבת להיות החלטה של "הכל או כלום". שכבות שונות של המערכת האקולוגית יכולות לפעול ברמות פתיחות שונות לחלוטין. לי הדגישה גם את החשיבות של שיתופי פעולה בין מוסדות ציבוריים לפרטיים, והביאה כדוגמה את פרויקט גנום האדם (Human Genome Project). הידע שנבע מהפרויקט הפך לתשתית שעליה יכלו אחרים לבנות פיתוחים נוספים, מה שאיפשר לחברות תרופות להפיק רווחים, למדענים לקדם את מחקריהם ולחברה כולה ליהנות מהתוצאות. "לכן אני חושבת שעלינו להשתמש בבינה מלאכותית כתשתית מסוג זה", אמרה לי, והוסיפה כי נדרשות רמות מסוימות של פתיחות בגילויים מדעיים, בחינוך ובשותפויות גלובליות, לצד מודלים עסקיים רווחיים ליזמים, במקביל לקבלת מערכות קוד סגור. לשיטתה, הוויכוח הגורף שמניח כי ניתן לסבול רק מודל אחד הוא ויכוח שגוי ומוטעה, ויש להגיע לרמת ניתוח מורכבת ומפורטת יותר.
הסכמה רחבה על נחיצותה של רגולציה ממשלתית
על אף חילוקי הדעות לגבי הטקטיקות, שררה הסכמה מלאה בין שלושת הדוברים כי רגולציה מסוימת תהיה הכרחית כדי להשאיר את הבינה המלאכותית במסלול הנכון. "מה שאנו רוצים לעשות הוא לפתח בינה מלאכותית בכיוון שיסייע לבני אדם, ורגולציה תעזור לנו לעשות זאת", סיכם הינטון. הוא הדגיש את עמדתו הנחרצת לגבי זהות הגורמים שצריכים לקבוע את הכללים: "אי אפשר להשאיר לאנשים כמו אילון מאסק ומארק צוקרברג להחליט כיצד יש לפתח ולנהל את הבינה המלאכותית".