דמיינו מערכת בריאות המורכבת ממספר סוכני בינה מלאכותית (AI): סוכן אחד שמנהל את הערכת התסמינים, סוכן שני שאחראי על זימון תורים, סוכן שלישי שמטפל בביטוח, וסוכן רביעי המנהל את בית המרקחת. כל אחד מהסוכנים הללו הוא מומחה בתחומו הספציפי. עם זאת, לכל אחד מהם יש ידע ומטרות משלו. כיום, סוכנים אלה מסוגלים להחליף נתונים ביניהם, אך הם עדיין אינם מסוגלים לתאם בפועל את הטיפול בחולה ללא קבלת החלטות מצד גורם אנושי המתווך ביניהם.
"האינטליגנציה כבר קיימת שם. מה שחסר הוא רקמת החיבור שהופכת ארבעה זרים לצוות אחד", מסביר ויג'וי פאנדיי (Vijoy Pandey), סגן נשיא בכיר ומנהל כללי של Outshift מבית סיסקו (Cisco). לפי מאמר שפורסם ב-MIT Technology Review Insights, רקמת חיבור זו מגיעה מהוספת שכבה סמנטית — מה ש-Outshift מכנה "האינטרנט של הקוגניציה" (Internet of Cognition) — המאפשרת לסוכנים הפועלים בדומיינים שונים לעבוד יחד, ובאופן קריטי, "לחשוב" יחד באמצעות כוונה משותפת, הקשר משותף והסקת מסקנות משותפת.
שכבה סמנטית זו מסתמכת על שכבת קישוריות מתחתיה הנקראת "האינטרנט של הסוכנים" (Internet of Agents), המאפשרת לסוכנים אוטונומיים לגלות זה את זה, להוכיח את זהותם ולהחליף הודעות בין תחומי פעילות שונים. כאשר משתמשים בשתי השכבות הללו יחד, הן מאפשרות את "הצעד הבא בדרך לסופר-אינטליגנציה מלאכותית מבוזרת", אומר פאנדיי.
מסקיילינג אנכי לסקלביליות אופקית: האתגר של מערכות ריבוי-סוכנים
במשך שנים, תעשיית הבינה המלאכותית התמקדה בצמיחה. סקיילינג (הרחבה) אנכי הוביל למודלים גדולים יותר, שאומנו על כמויות גדולות יותר של נתונים ועם כוח מחשוב רב יותר. תהליך זה ייצר את יכולות החשיבה וההסקה שיכולות לשמש כ"מוח" עבור סוכני בינה מלאכותית, המסוגלים לתפוס, להסיק ולפעול בסביבות דיגיליות.
בעוד שסקלביליות אנכית יכולה לייצר סוכנים בעלי יכולות גבוהות יותר ללא הרף, הרי שכדי לאפשר פתרון בעיות מבוסס-סוכנים על פני מערכות, חברות ופלטפורמות שונות, ציר ההרחבה הבא חייב להיות אופקי, מסביר פאנדיי.
מערכות מרובות סוכנים (Multi-agent systems) כבר נחקרות כיום בתחומים כמו הנדסת תוכנה, גילוי תרופות וסימולציות מדעיות, אך הביצועים שלהן עד כה היו מאכזבים. מחקר אחד מצא שיעור כישלון שבין 41% ל-87% בקירוב בעת הערכת שבע מערכות ריבוי-סוכנים בקוד פתוח.
"סוכנים מחוברים מטפלים היטב בפעולה מתואמת; הם לוקחים משימה שאת צורתה הם כבר ראו, מחלקים אותה ומעבירים אותה הלאה", מסביר פאנדיי. "מה שהם לא יכולים לעשות זה להחזיק במטרה משותפת ולהסיק מסקנות לעבר פתרון של בעיה שאף אחד מהם לא אומן לפתור".
"הפער הוא ארכיטקטוני, ולא בעיית פרומפטים (הנחיות)", מוסיף פאנדיי. "ללא שכבת התיאום המתאימה, הגדרות נאיביות של ריבוי סוכנים יכולות להניב ביצועים גרועים יותר מאשר סוכן יחיד. שינוי המדרגה יתרחש כאשר אותו צוות של סוכנים יתכנס בכוחות עצמו לפתרון בעיה חדשה, ללא צורך באדם שיתפור את התפרים ביניהם".
שכבת הקישוריות ושכבת הסמנטיקה: AGNTCY ואינטרנט של קוגניציה
כדי להשיג מטרה זו, פאנדיי מציין כי Outshift בנתה שכבת קישוריות בשם AGNTCY, פרויקט קוד פתוח שנמצא כעת תחת חסות קרן לינוקס (Linux Foundation). מערכת AGNTCY מאפשרת לסוכנים הפועלים במערכות, חברות ופלטפורמות שונות למצוא זה את זה, לאמת זהות ולהחליף הודעות באמצעות פרוטוקולים פתוחים וסטנדרטיים.
כפי שפאנדיי מסביר, הדבר מאפשר לתזה של "האינטרנט של הקוגניציה" לצעוד צעד אחד קדימה. הוא יוצר שכבה סמנטית המאפשרת לסוכנים ליישר מטרות (לשתף כוונות - intent), לאחד ידע מוסדי וזיכרון מצטבר (לשתף הקשר - context), ולקבל החלטות ופשרות משותפות (לשתף הסקת מסקנות - reasoning).
פאנדיי מדמה התקדמות זו להתפתחות של בני האדם: "במשך מאות אלפי שנים בני האדם הפכו לחכמים יותר באופן אינדיבידואלי, אך ההישגים מתו עם כל אדם שהשיג אותם", הוא מסביר. "לפני כ-70,000 שנה זה השתנה, כאשר בני האדם למדו לשתף כוונות, לבנות ידע מצטבר ולהסיק מסקנות באופן קולקטיבי. זהו הרגע שבו יחידים מפוזרים הפכו לציוויליזציה".
"הסוכנים נמצאים כעת באותו סף בדיוק. בנינו את הגאונים מסיליקון והענקנו להם סוכנות (agency). מה שחסר להם הוא השכבה שאפשרה לבני האדם להפוך לקולקטיב", הוא אומר.
שלושת עמודי התווך הטכנולוגיים של שיתוף הפעולה הסוכני
הפיכת הסוכנים ליכולים לעבוד יחד באופן קולקטיבי נשענת על שלושה עמודי תווך בערימת הטכנולוגיה (tech stack):
-
כוונה משותפת באמצעות פרוטוקולי מצב קוגניטיבי (Cognition state protocols): פרוטוקולי מצב קוגניטיבי הם לחיצת היד הסמנטית המאפשרת לסוכנים להסכים על מטרה לפני שהם פועלים, ולאחר מכן לנהל משא ומתן לקראתה. Outshift יצרה שכבת תיאום בקוד פתוח בשם Mycelium, שארגונים יכולים לשכפל (clone) ולהשתמש בה מול הסוכנים שלהם. בבדיקות פנימיות שערכה החברה על פני 14 תרחישים שונים, נמצא כי קבוצות לא מובנות של סוכנים הגיעו להחלטה רק בכשליש מהמקרים. לעומת זאת, פרוטוקול תיאום המאלץ את הסוכנים להצהיר על מטרה, להציף מידע חסר ולפתור קונפליקטים לפני הפעולה, העלה את שיעור ההצלחה ל-93%.
-
הקשר משותף באמצעות מארג קוגניטיבי (Cognition fabric): מארג קוגניטיבי הוא זיכרון מוסדי משותף ורשת תקשורת המאפשרת לתובנות של הסוכנים להצטבר לאורך זמן, במקום להתאפס בכל סשן (מפגש) מחדש. שכבת הקשר זו, המנוהלת על ידי מדיניות, פותרת את הבעיה של "אמנזיה ארגונית" (organizational amnesia), בכך שהיא מבטיחה כי אינטליגנציית הבסיס של המערכות רק תעלה עם הזמן.
-
הסקת מסקנות משותפת באמצעות מגברים קוגניטיביים וטכנולוגיות מעקות בטיחות (Guardrail technologies): ניתן להשתמש בשני סוגים של מנועי קוגניציה יחד כדי לאפשר הסקת מסקנות משותפת. מגברים קוגניטיביים מאיצים את החשיבה והמידול המשותפים, וטכנולוגיות מעקות בטיחות (GATs) יוצרות מסגרות אבטחה, עלויות ותאימות (compliance). בני אדם הם תורמים פעילים לשכבה זו, ומקבלים החלטות שיפוט שהמערכת מנתבת אליהם (במקום לסקור את התוצרים בדיעבד לאחר מעשה).
סיכוני אבטחה ופתרונות הגנה: Continuous Agent Semantic Authorization
שיתוף קוגניציה במערכות מרובות סוכנים עלול ליצור סיכונים חדשים, הכוללים האצלת סמכויות לא מכוונת, הזרקות פרומפטים זדוניות (prompt injections), הרעלת זיכרון, או סוכנים בעלי הרשאות יתר (over-privileged) עם גישה להרשאות ונתונים החורגים בהרבה ממה שהמשימות שלהם דורשות. בשל כך, נדרשות בקרות ספציפיות לסביבה כדי להגן מפני פעולות או השלכות לא מכוונות.
"לסוכנים יש תכונות דמויות אדם, אך הם פועלים במהירות ובקנה מידה של מכונות", מסביר פאנדיי. "כל מה שבנינו במשך עשרים שנה — בקרת גישה, זהות, תאימות — נבנה עבור בני אדם או עבור מכונות, לא עבור שניהם יחד".
פרוטוקול Continuous Agent Semantic Authorization (CASA) — מימוש ייחוס בקוד פתוח שפותח על ידי Outshift — הוא טכנולוגיית מעקה בטיחות (GAT) הפועלת כדי להבטיח שפעולות הסוכן יישארו מיושרות באופן מאובטח עם המטרה המקורית של המשתמש, באמצעות תהליך של הרשאה רציפה. CASA עושה זאת על ידי קריאת מה שהסוכן מנסה להשיג, ולאחר מכן בדיקת כל בקשת כלי מול אותה משימה ספציפית.
במקרה של מערכת בריאות, למשל, סוכן שהונחה לסכם רשומה רפואית של מטופל עלול להתחיל בשילוב שאילתות על בסיס נתונים שלם. פעולה זו עלולה להוביל לכך ש-CASA תדחה את הקריאה, מכיוון שהבקשה אינה תואמת עוד את המשימה עבורה הוא קיבל הרשאה.
"הבקרות של היום מוגדרות עבור תפקיד או עבור סשן, ולא עבור המשימה הספציפית, כך שסוכן שקיבל גישה לכלי מסוים יכול להשתמש בו לכל דבר", מסביר פאנדיי. "בערך ב-90% מהמקרים, לסוכן אין שום דרך לוודא שהוא בכלל מורשה לבצע את העבודה שנמסרה לו".
המלצות יישומיות לארגונים: להתחיל בצעדים מדודים
כאשר באים להרחיב את האינטליגנציה באופן אופקי בארגון, פאנדיי ממליץ לעסקים להתחיל בניסוי של תהליך עבודה חוצה-תפקודים אחד, המקיף שלושה או ארבעה צוותים ושכיום דורש מעורבות אנושית לאישור המעברים ביניהם.
"הקימו את התהליך כמערכת קטנה של ריבוי סוכנים על גבי תשתית פתוחה ובעלת תאימות הדדית (interoperable), עם מדד בסיס שניתן למדידה", הוא מייעץ. "המשיכו לבנות מודלים גדולים יותר, הוסיפו את הציר האופקי מעליהם, ושנו את מה שאתם מודדים. עקבו אחר המקומות שבהם תובנה של סוכן אחד שיפרה סוכן אחר — זהו האות לכך שהציר האופקי אכן עובד".
באמצעות תחילת הניסוי כבר כעת בשכבות הכוונה, ההקשר והסקה, ארגונים יכולים להקדים את העקומה. "הבעיות פתוחות, והתשתית עדיין נכתבת בימים אלו", מסכם פאנדיי. "זהו הרגע לבנות אותה".