לפי דיווח באתר TechCrunch, מבין כל הוויכוחים הסוערים המתנהלים לאחרונה סביב החסרונות הפוטנציאליים של טכנולוגיית הבינה המלאכותית, ישנו חשש מרכזי אחד המעורר את הדאגה הרבה ביותר בקרב חובבי הטכנולוגיה בעמק הסיליקון. החשש הגדול ביותר שלהם הוא שמעבדות הבינה המלאכותית הענקיות, המוכרות מודלים קנייניים ומסחריים, פועלות למעשה כמו "סוסים טרויאניים" בתוך החברות הרוכשות מהן שירותים.
החשש המרכזי מבוסס על כך שככל שחברות הזנק (סטארט-אפים) ותאגידים משתמשים במודלי בינה מלאכותית של מעבדות מובילות דוגמת OpenAI או Anthropic, המעבדות הללו זוכות לגישה הולכת וגדלה למידע העסקי הרגיש ביותר של אותם לקוחות. מפתחות המודלים יכולות לאחר מכן להשתמש בידע ובתובנות הללו לצרכיהן האישיים, ובכך להפוך בפועל למתחרות ישירות של הלקוחות שלהן עצמן. בין הדמויות הבולטות שהשמיעו אזהרות דומות בעבר ניתן למצוא משקיעי הון סיכון כמו ג'ייסון קלקאניס (Jason Calacanis) ואת מנכ"ל חברת פלנטיר (Palantir), אלכס קארפ (Alex Karp). כעת, בפוסט מפתיע שפורסם ביום שני, הצטרף גם מנכ"ל ענקית הטכנולוגיה מיקרוסופט (Microsoft), סאטיה נאדלה (Satya Nadella), לקולות המזהירים הללו.
אזהרתו של סאטיה נאדלה: משלמים פעמיים עבור הבינה
בבלוג שפרסם, נאדלה מזהיר כי משתמשי בינה מלאכותית (אותם הוא מכנה "הקונים") משלמים למעשה מחיר כפול עבור השימוש בטכנולוגיה. מצד אחד, הם משלמים ביודעין על השימוש בטוקנים (אסימונים) של המודלים, ומצד שני, ובאופן לא מודע, הם מוסרים בתהליך זה מידע ארגוני יקר ערך.
נאדלה הסביר זאת במילותיו שלו: "אתם בעצם משלמים עבור בינה פעמיים – פעם אחת בכסף, ופעם נוספת בדבר יקר אף יותר: הידע הקנייני שעליכם לחשוף כדי להפוך את הבינה הזו לשימושית. ככל שתרצו שהמודל יתפקד טוב יותר, כך תצטרכו להזין לו יותר מהידע הזה!".
הסכנה הגדולה ביותר, לפי נאדלה, היא שתאגידים מלמדים את המודלים הללו באופן מילולי את הניואנסים הדקים ביותר של הפעילות העסקית שלהם. נאדלה כותב כי המודלים לומדים מתוך ה'שאריות' (exhaust) של השימוש – קרי, הפרומפטים (הנחיות) שהמשתמשים כותבים, הכלים שבהם סוכני הבינה המלאכותית משתמשים, ובעיקר התיקונים שאנשים מבצעים כאשר המודל מציג תוצאה שגויה. כל תיקון כזה מיתרגם ומזוקק לכדי ידע מוסדי קולקטיבי בתוך המודל. נאדלה מדגיש כי מדובר בסוג ידע שמתחרה עסקי לעולם לא יוכל לרכוש בכסף, ואף על פי כן, ארגונים מוסרים אותו כיום מרצונם החופשי למפתחות המודלים הקנייניים.
סוגיית זיקוק המודלים והגבלות הרישוי
נאדלה טוען כי אם לחברות הבינה המלאכותית יש את הזכות המלאה לסרוק באופן חופשי את רשת האינטרנט הציבורית כדי לאמן את המודלים שלהן, הרי שזה רק הוגן שארגונים ותאגידים יוכלו ללמוד – או "לזקק" (distill) – את המודלים הללו בתמורה. המונח "זיקוק" מתייחס לפרקטיקה הטכנולוגית של שימוש בפלטים של מודל גדול כדי ללמוד כיצד הוא פועל, וכן כדי לאמן מודל חדש, לרוב קטן וזול יותר, בהתבסס על אותן תובנות.
כדוגמה למורכבות הנושא, בחודש פברואר האשימה חברת Anthropic מודלים סיניים בקוד פתוח בכך ששלחו מיליוני פרומפטים למודל שלה, Claude, במטרה לשפר את המודלים העצמאיים שלהם, ואף הפצירה בממשלת ארצות הברית להחמיר את בקרת הייצוא בנושא. נקודת המבט של נאדלה היא שמפתחות המודלים אינן יכולות ליהנות מכל העולמות. הוא מוצא אירוניה רבה בכך שהסטטוס קוו מאפשר למפתחות המודלים ליהנות מזכויות שימוש הוגן כדי לאמן את המודלים שלהן על גבי נתונים ציבוריים, אך מיד לאחר מכן הן פונות ומטילות מגבלות מחמירות וRestrictive terms על זיקוק המודלים שלהן על ידי אחרים. נאדלה מביע דאגה מיוחדת מהמקרים שבהם מפתחות מודלים שומרות לעצמן את הזכות ללמוד מנתוני השימוש והאינטראקציה של לקוחותיהן.
הפתרונות המוצעים: עננים פרטיים ושכבות תזמור
הפתרון שמציע נאדלה הוא כזה שניתן לצפות לו מצד מנכ"ל של ספקית ענן ענקית. הוא קורא לחברות לשמור על הבעלות המלאה על הנתונים שלהן, כולל פרומפטים, משובים וכל נתון אחר המועבר למודל. לשם כך, הוא מפציר בהן לבנות "סביבות למידה קנייניות" משלהן על גבי הענן (מקום שבו הנתונים שלהן ככל הנראה כבר מאוחסנים, ובאופן נוח עבור מיקרוסופט, הדבר עשוי להצביע על שירותי הענן שלה, Azure).
בנוסף, הוא מעודד חברות לבנות מערכות הכוללות "שכבות תזמור" (orchestration layers) – שיטה המאפשרת מעבר קל ומהיר בין מודלי בינה מלאכותית של ספקים שונים במקום להיות כבולות לחלוטין למפתח מודל יחיד. כלים כגון "שערי בינה מלאכותית" (AI gateways), המאפשרים לחברות לבצע בדיוק את סוג הניתוב הזה, זוכים לפופולריות הולכת וגוברת לאחרונה בשוק. למרות שנאדלה אינו משתמש במפורש במונח "קוד פתוח" כדרך לשמירה על בעלות, זהו הסאבטקסט הברור העולה מדבריו.
המגמה בשטח: מעבר לקוד פתוח והתקנות מקומיות (On-Premise)
לצד דבריו של נאדלה, קיים סאבטקסט נוסף המתרחש בפועל בשוק הארגוני. חברות גדולות רבות, שחלקן עדיין מחזיקות במרכזי נתונים עצמאיים בנוסף לשימוש בשירותי ענן, כבר החלו לבצע מעבר לשימוש במודלים בקוד פתוח המותקנים באופן מקומי בשרתי החברה (On-Premise).
עידית לוין (Idit Levine), המייסדת והמנכ"לית של חברת Solo.io – המפתחת תוכנות אבטחה ורשתות המסייעות לארגונים לנהל מערכות בינה מלאכותית – מציינת כי היא עדה למעבר המדויק הזה בקרב לקוחותיה. לדבריה, לאחר שהחברות מתנסות בעבודה ראשונית עם מפתחות של מודלים קנייניים, הן מתחילות לשאול את עצמן האם הן יכולות לקחת מודל בקוד פתוח ולהריץ אותו באופן מקומי בשרתיהן. לוין מסבירה בראיון ל-TechCrunch כי חברות מבינות שמודל כזה יספק כמעט 90% מהיכולות של המודל הגדול, בעלות נמוכה בהרבה, תוך הענקת שליטה מלאה ובטוחה לחברה.
הטכנולוגיה של חברת Solo.io נבחרה בשנה שעברה לשמש כבסיס הטכנולוגי לפרויקט Agentgateway של קרן לינוקס (Linux Foundation). בין לקוחותיה של החברה ניתן למצוא תאגידים גדולים ומובילים דוגמת T-Mobile, ADP ו-SAP. לוין מזהה מגמה הולכת וגוברת של התקנת מודלים מקומיים בקוד פתוח ורואה בכך את הגל הגדול הבא של שימוש בבינה מלאכותית בארגונים.
נתונים מספריים התומכים בשינוי המגמה
התצפיות וההערכות של לוין זוכות לחיזוק משמעותי מצד גורמים נוספים בתעשיית הבינה המלאכותית. פלטפורמת Vercel – המוכרת בעיקר כפלטפורמה לבנייה ואירוח של אתרי אינטרנט ואשר הוסיפה לאחרונה כלי מעבר וניתוב בין מודלים של בינה מלאכותית – וחברת OpenRouter, המסייעת למפתחים לנתב בקשות בין מודלים שונים, מדווחות שתיהן על זינוק משמעותי בתעבורה המופנית למודלים בקוד פתוח.
למעשה, מודלים פתוחים היוו לא פחות מ-29% מכלל התעבורה שנותבה דרך שער הגישה (gateway) of Vercel במהלך החודש האחרון. בהתחשב בכך שמנכ"ל מיקרוסופט – חברה שהשקיעה בעצמה סכומי עתק הן ב-OpenAI והן ב-Anthropic – קורא כעת בגלוי לארגונים להיזהר משימוש במודלים קנייניים ולשמור על נתוניהם, סביר להניח כי מגמה זו רק תלך ותתרחב. כפי שסיכם זאת נאדלה בפוסט שלו: "בצריכת בינה, אתם יוצרים בינה. ומה שאתם יוצרים צריך להיות שייך לכם".