לפי דיווח ב-SiliconANGLE, תחום התצפיתיות הארגונית (enterprise observability) נכנס לשלב חדש בעקבות השינויים שטכנולוגיית הבינה המלאכותית מחוללת ביישומים שחברות נדרשות לנטר ובאופן שבו צוותי תפעול מגיבים לתקלות. פלטפורמות תצפיתיות מסורתיות נבנו סביב תוכנה דטרמיניסטית וטלמטריה כגון יומני רישום (logs), מדדים (metrics) ועקבות (traces). לעומת זאת, יישומי וסוכני בינה מלאכותית מתנהגים באופן שונה ומפיקים פלטים שעשויים להשתנות גם כאשר מוגש להם קלט דומה. במקביל, ארגונים מצפים מפלטפורמות תצפיתיות להתקדם מעבר לזיהוי בעיות בלבד ולספק הקשר מספק שיאפשר לבני אדם ולסוכני בינה מלאכותית לאבחן, לתקן ואף לפעול ישירות מול תקלות אלו.
מעבר זה מהווה את הרקע לרכישת חברת Arize AI בידי Dynatrace, מהלך המשלב יכולות תצפיתיות בינה מלאכותית, הערכה (evaluation) וניטור סוכנים בתוך פלטפורמת תצפיתיות היישומים הרחבה של Dynatrace. בפרק של הפודקאסט AppDevANGLE מבית theCUBE Research, שוחח האנליסט הבכיר ומוביל הפרקטיקה פול נאשאוואטי (Paul Nashawaty) עם סטיב טאק (Steve Tack), מנהל המוצר הראשי של Dynatrace, ועם אפרנה דינקראן (Aparna Dhinakaran), מייסדת-שותפה ומנהלת המוצר הראשית של Arize AI, על התכנסות תצפיתיות היישומים ותצפיתיות הבינה המלאכותית ועל משמעותה עבור הפעילות התפעולית בארגונים. טאק ציין כי העולם השתנה מאוד וכי הבינה המלאכותית מביאה עמה בעיות ותחומים חדשים.
מעבר מתוכנה דטרמיניסטית למערכות לא-דטרמיניסטיות
אחד השינויים המרכזיים מתרחש בתוך היישומים עצמם. תוכנה מסורתית מפיקה בדרך כלל תוצאות צפויות, בעוד שיישומים מבוססי בינה מלאכותית – ובייחוד כאלה המשלבים מודלי שפה גדולים (LLMs) וסוכנים אוטונומיים – מכניסים התנהגות לא-דטרמיניסטית המקשה על איתור ותיקון תקלות (troubleshooting). משמעות הדבר היא שתצפיתיות אינה יכולה עוד להתמקד אך ורק בשאלה האם היישום זמין או האם התשתית פועלת במסגרת ספי ביצועים צפויים. צוותים נדרשים להבין גם האם מערכת הבינה המלאכותית הפיקה את המענה המיועד והאם איכות המענה עמדה בציפיות.
דינקראן הסבירה כי שלב ההערכה אינו עוסק עוד רק בשאלה האם התוצאה נכונה או שגויה, אלא במדידה בפועל של איכות התגובות, המהווה בעיה שונה מהותית. Arize בנתה את הפלטפורמה שלה סביב אתגר זה, והיא מספקת כלים למעקב (tracing), הערכה ושיפור של יישומי בינה מלאכותית וסוכנים. פלטפורמת הקוד הפתוח שלה, Phoenix, נמצאת בשימוש של יותר מ-4,000 ארגונים לפי נתוני דינקראן, בעוד שמוצר Arize AX מספק סביבה מנוהלת המיועדת לצוותים המפעילים מערכות בינה מלאכותית בהיקף ייצור (production scale). עבור Dynatrace, יכולות אלו מרחיבות את התצפיתיות לשכבת יישומים שחשיבותה גוברת ככל שארגונים מעבירים פרויקטי בינה מלאכותית משלב הניסוי לשלב הייצור.
שיתוף הקשר בין טלמטריית בינה מלאכותית לטלמטריית יישומים
יישומי בינה מלאכותית פועלים לעיתים נדירות באופן עצמאי. סוכנים קוראים לממשקי תכנות יישומים (APIs), מתקשרים עם מסדי נתונים, תלויים בתשתיות ענן ומתחברים למערכות ארגוניות רחבות. מצב זה יוצר אתגר באיתור תקלות כאשר התנהגות הבינה המלאכותית הנבדקת מהווה חלק אחד בלבד מתוך מחסנית תוכנה (software stack) גדולה בהרבה. דינקראן ציינה כי לקוחות Arize ביקשו יותר ויותר חיבורים חזקים יותר בין טלמטריית בינה מלאכותית לבין טלמטריה מסורתית של יישומים וייצור, בעוד שלקוחות Dynatrace ביקשו יכולות עמוקות יותר של תצפיתיות והערכת בינה מלאכותית.
איחוד שתי הסביבות עשוי לספק למפתחים, למהנדסי אמינות אתר (SREs), לצוותי פלטפורמה, למהנדסי בינה מלאכותית ולמדעני נתונים מבט משותף על המתרחש לאורך מחסנית היישום. דינקראן הדגישה כי מערכות הסוכנים ומערכות התוכנה צמודות זו לזו, והיכולת לבצע ניפוי שגיאות (debugging) בסוכנים לצד גישה לכלל ההקשר של התוכנה שבה הם משתמשים להפעלת כלים או התשתית שמאחוריהם, מאפשרת בניית מוצרים טובים יותר.
הקשר משותף זה עשוי לסייע גם בטיפול בבעיה מתמשכת נוספת בתחום התצפיתיות: ריבוי כלים (tool sprawl). לפי מחקר שציטט נאשאוואטי במהלך השיחה, 75% מהארגונים משתמשים בין שישה ל-15 כלים לצורך תצפיתיות. כאשר ארגונים מוסיפים מערכות ניטור, הערכה וממשל עבור בינה מלאכותית, קיים סיכון שהבינה המלאכותית תיצור שכבה תפעולית מבודדת נוספת במקום לצמצם את המורכבות. טאק טען כי שילוב תצפיתיות יישומים ותצפיתיות בינה מלאכותית מעניק לארגונים תפיסה מערכתית שלמה יותר, במקום לאלץ צוותים לאסוף מידע מפלטפורמות מנותקות.
מלוחות מחוונים לפעולה תפעולית אוטונומית
השינוי הרחב יותר עשוי להתמקד פחות במה שפלטפורמות התצפיתיות מנטרות, ויותר במי – או במה – שצורך את המידע. במשך שנים תוכננה התצפיתיות בעיקר סביב מהנדסים שבוחנים לוחות מחוונים (dashboards), מגיבים להתרעות ומאתרים תקלות באופן ידני. סוכני בינה מלאכותית יוצרים אפשרות למודל תפעולי שונה, שבו טלמטריה הופכת להקשר שסוכני תוכנה יכולים לצרוך בעצמם. דינקראן ציינה כי תצפיתיות אינה עוסקת עוד בבני אדם המביטים בלוחות מחוונים, מדדים ויומנים, אלא בפעולה.
תפיסה זו משנה את ערכו של מידע התצפיתיות: במקום להסביר בלבד מה התרחש, הטלמטריה יכולה להפוך לחלק משכבת ההיגיון וההסקה (reasoning layer) שבה משתמשים סוכנים כדי לזהות בעיות, להמליץ על שינויים או ליזום תיקון. המעבר גם מעלה את רף הדרישות לגבי דיוק והקשר, שכן תפעול אוטונומי פועל רק אם ארגונים נותנים אמון במידע המזין החלטות אלו. טאק ציין כי היכולת לספק ניתוחים מדויקים ותשובות מהימנות תהיה חיונית ככל שארגונים יעניקו לסוכנים אחריות רבה יותר. Dynatrace מקדמת כיוון זה באמצעות אסטרטגיית הבינה המלאכותית והאוטומציה שלה, הכוללת את Dynatrace Intelligence ואת פתרון BlueBox AI לפיתוח סוכני ולתהליכי עבודה של צוותי SRE, כאשר Arize מוסיפה יכולות הערכה ותצפיתיות עמוקות יותר סביב מערכות הבינה המלאכותית המשתתפות בתהליכים אלה.
שינויים באופן העבודה של צוותי פיתוח תוכנה
הרכישה משקפת גם שינוי רחב יותר בפיתוח תוכנה עצמו, שבו סוכני בינה מלאכותית משמשים לא רק בתוך יישומים אלא גם לבנייה, בדיקה, איתור תקלות ותפעול של אותם יישומים. טאק תיאר עתיד שבו ארכיטקטים עשויים להקדיש פחות זמן לעבודה ישירה בתוך סביבות פיתוח ויותר זמן לתיאום קבוצות של סוכנים ייעודיים, מה שהופך את התצפיתיות לחלק ממעגל המשוב בין פיתוח אוטונומי לתפעול בסביבת ייצור. עבור ארגונים, הדבר עשוי לקרב את התצפיתיות לשכבת מודיעין תפעולי המשתרעת על פני פיתוח יישומים, הערכת בינה מלאכותית, תשתיות ותיקון אוטומטי, כאשר האתגר יהיה להבטיח שהאוטומציה תתקדם לצד הממשל, האמינות והביטחון הנדרשים לפני העברת החלטות תפעוליות מהותיות לידי סוכנים.