בטור דעה שפרסם זאוס קרוואלה באתר SiliconANGLE, מנותחים ממצאי מחקר חדש של חברת סיסקו (Cisco Systems Inc.) שכותרתו "Permission to Scale: The Critical Role of Trust in Successful AI Adoption". המחקר, שנכתב על ידי החוקר העצמאי בראד הווארת והוצג בכנס Cisco Live APJC במלבורן, מתבסס על נתונים מ-25 ארגונים אוסטרליים. לפי הטור, בעוד שבמשך מספר שנים התמקד השיח סביב בינה מלאכותית בארגונים ביכולות טכנולוגיות — כמו איזה מודל הוא החכם ביותר ואיזה מעבד גרפי (GPU) הוא המהיר ביותר — המגבלה הנוכחית על קצב ההתרחבות אינה נעוצה בטכנולוגיה. כיום מערכות בינה מלאכותית מסוגלות לבצע הרבה מעבר למה שמרבית הארגונים מוכנים להתיר להן, והפער המרכזי שנוצר נובע מסוגיית האמון. במסגרת הכנס ערכה סיסקו פאנל עיתונאים בהנחיית הווארת, שבו השתתפו מנהלים מארגונים שלקחו חלק במחקר, ובהם קארל סולדר, סמנכ"ל טכנולוגיות בסיסקו אוסטרליה וניו זילנד; אנה טוסקי, מנהלת משאבי אנוש ראשית ב-Elmo Software; כריס לוק, סמנכ"ל טכנולוגיות ב-Flight Centre Travel Group; נאז ווילסון, מנהלת תרבות והעצמה ב-Funlab; ולוסיו ריביירו, מנהל AI ראשי ב-TBWA Australia.
המקרה של אוסטרליה כמבחן לאימוץ עולמי
קרוואלה מציין כי למרות שגודל מדגם של 25 ארגונים הוא קטן, הממצאים תואמים לשיחות שניהל עם הנהלות ארגונים, ומדגיש כי המחסום הגדול ביותר להרחבת השימוש ב-AI אינו טכני אלא קשור באנשים. קרוואלה מציין כי אוסטרליה מהווה מקרה בוחן מעניין. על פי מחקר של אוניברסיטת מלבורן ושל פירמת KPMG המצוטט בדוח, מחצית מהאוסטרלים משתמשים בבינה מלאכותית באופן קבוע, אך רק 36% נותנים בה אמון, ורק 30% מאמינים שיתרונותיה עולים על הסיכונים שלה. שיעור זה הוא הנמוך ביותר מבין 47 מדינות שנסקרו. קרוואלה מוסיף כי אם ניתן לבנות אמון ב-AI באוסטרליה, עבודה זו תוכל להתרחב ברמה הגלובלית. בהודעה לעיתונות, סטפן לייטל, סגן נשיא ומנכ"ל סיסקו באוסטרליה וניו זילנד, התייחס ליתרונות של רתימת אזור זה וציין: "מדובר בתוכנית פעולה שנוסעת היטב מעבר לאוסטרליה".
עמוד התווך התרבותי ומעגל האימוץ של האמון
בדבריו בפאנל ציין קארל סולדר כי מתוך ששת עמודי התווך במדד מוכנות ה-AI של סיסקו (AI Readiness Index), מנהלי מערכות מידע (CIOs) ומנהלי טכנולוגיות (CTOs) נוטים להימשך לתחומים המוכרים להם, בעיקר תשתית ונתונים, ומותירים את נושא התרבות לאחרים. סולדר תיאר מקרה של לקוח שהשקיע בתשתיות, בממשל (governance), בנתונים ובמיומנויות טכנולוגיית מידע, אך לא התמקד בתרבות, ומצא עצמו מתמודד עם התנגדות חריפה מצד עובדים ולקוחות בנוגע לשימוש בכלי העבודה שבהם השקיע. קרוואלה הוסיף כי מדובר בתופעה שחזה בה שוב ושוב, שבה חברות מוציאות מיליונים על פלטפורמות AI אך רואות רמות שימוש פושרות.
הווארת תיאר בדיון מנגנון של "גלגל תנופה" (flywheel) של אימוץ, שבו שימוש מוצלח יוצר ראיות, הראיות בונות אמון, והאמון מאפשר שימוש רחב יותר. קרוואלה הדגיש כי חברות רבות יושבות וממתינות להופעת אמון לפני שהן פורסות פתרונות, בעוד שההוכחה לקיומו של אמון חייבת להיות דבר הניתן למדידה. כמו כן, הודגש כי יש לבסס אמון ב-AI עם פרמטרים מציאותיים. אנשים רבים דוחים מערכות AI לאחר טעות בודדת, אף על פי שברוב המקרים שיעור השגיאות של המערכות נמוך בהרבה מזה של בני אדם. קרוואלה השווה זאת לתגובת תעשיית הרכב כאשר תאונה ברכב טסלה מעוררת סערה תקשורתית, אף שבפועל מערכת ה-Autopilot של טסלה חווה תאונה אחת בכל כ-7 מיליון מייל, לעומת נהגים אנושיים שחווים תאונה אחת בכל מיליון מייל בממוצע. הציפייה לשלמות אינה יעד מציאותי ועלולה לשחוק את האמון, בעוד שהיעד הנכון עבור משתמשים הוא פעולה מהירה ומדויקת יותר ביחס לחלופות.
גישות הנהלה ודוגמאות מן השטח
במסגרת הדיון הובאו מספר דוגמאות לדרכי פעולה של הנהלות. כריס לוק מ-Flight Centre הציג את דוגמת מייסד החברה בן ה-77, גרהם "סקרו" טרנר, המשתמש ב-AI בכל יום ונחשב למשתמש קבוע במודל Claude של חברת Anthropic. לוק ציין כי טרנר, שאמר בשנת 2000 שהאינטרנט לא יתפוס, מהמר כעת על כך שה-AI כן תתפוס, ובכך מעניק לארגון היתר להתנסות. לוסיו ריביירו מ-TBWA Australia תיאר גישה מובנית יותר, והגדיר את האמון כמשוואה המבוססת על ארבעה מרכיבים: בעלות (ownership), כשירות (competence), עקביות (consistency) ושקיפות (transparency). ריביירו טען כי שאלת עובדים חרדים האם הם מעוניינים ב-AI אינה מניבה תשובה מדויקת, כפי שלא שואלים ספר אם יש צורך בתספורת. כחלופה הוא הציע כנות: חברות אינן יכולות להבטיח לשמר כל משרה, אך הן יכולות להבטיח להפוך את העובדים למוכנים, המיומנים ובעלי האמון הרב ביותר אם ה-AI ישבש את תפקידם.
בארגון Funlab, שבו 79% מכוח העבודה הוא בגיל 21 או צעיר יותר, מסתמכים על למידת עמיתים. צוות בשם "AI Super Squad" מכנס נציגים מכל מחלקה אחת לארבעה שבועות. נאז ווילסון הסבירה כי המפגשים הראשונים הוקדשו להבהרת השאלה אילו כלים מוגדרים בטוחים לשימוש, שכן המגבלה האמיתית של עובדים רבים נבעה מחוסר ידיעה האם מותר להם לבצע פעולות מסוימות.
אמון מכויל והתמודדות עם "פסולת AI"
המושג המרכזי בדוח הוא אמון מכויל (calibrated trust), שלפיו עובדים צריכים לדעת מתי להסתמך על AI, מתי לאמת את התוצרים ומתי החלטה חייבת להישאר בידי אדם. אמון עיוור במערכות אלו מהווה סיכון משמעותי. במהלך הדיון שאלה עלתה לגבי האופן שבו חברות מגנות מפני אמון-יתר, בייחוד בתפקידים תחת עומס גבוה שבהם עובדים נוטים לקחת את התשובה ולהמשיך הלאה. אנה טוסקי מ-Elmo תיארה את תופעת ה-"AI slop", שבה עובד נשאל שאלה, מזין הנחיה למערכת ה-AI ושולח דוח שגוי לחלוטין בן 10 עמודים מבלי להביט בו. בחברת Elmo מקפידים על שמירת גורם אנושי בתהליך (human in the loop) כמעט בכל דבר, וטוסקי טענה כי הפתרון מתחיל בעיצוב מחדש של העבודה עצמה, במקום פשוט לזרוק סוכנים לעבר התהליך.
הדוח ממליץ למנהלי IT לאמץ פרקטיקה ייעודית: להפסיק להתייחס לכניסות למערכת (log-ins) כמדד לאמון, ולעקוב אחר התדירות שבה עובדים מאתגרים תוצרי AI או עוקפים אותם (override). כניסות מראות שהעובדים מקליקים, בעוד ששיעור העקיפות מראה שהם חושבים ובודקים. בנוסף עלה חשש הנוגע למוקדי שירות (contact centers): ה-AI מייעל משימות שגרתיות ששימשו בעבר כהפסקות קוגניטיביות עבור נציגים, ומותיר אותם עם עבודה אינטנסיבית רציפה שמובילה לנשירה מוגברת — מצב שטוסקי כינתה "שריפת מוח מ-AI" (AI brain fry). ווילסון הוסיפה כי כאשר ה-AI לוקח משימות שגרתיות, העובדים מאבדים את החזרתיות שבונה הקשר ומומחיות, דבר היוצר בעיה בצינור הכשרת הכישרונות בארגון.
סוכני AI והצורך באבטחת זהויות שאינן אנושיות
קרוואלה מציין כי בינה מלאכותית המנסחת תוכן היא דבר אחד, אך סוכנים הפועלים ומבצעים פעולות הם דבר אחר. כריס לוק מסר כי ב-Flight Centre סוכנים מנהלים כעת חלק קטן מהנפקת כרטיסי טיסה שהועבר בעבר למיקור חוץ, כאשר היבטי אבטחה שולבו מהיום הראשון. עם זאת, בעוד שהוא השתמש ב-AI להזמנת נסיעת אובר לכנס, הוא ציין כי עדיין לא היה נותן למערכת להזמין טיסת חזור לאירופה.
לפי ממצאי המחקר, פחות ממחצית מהמשיבים בטוחים במידה רבה או רבה מאוד כי היסודות שלהם ערוכים לקראת AI אוטונומי יותר, ויותר ממחצית ציינו כי יש לשדרג את התשתיות שלהם. בנוסף, דוח Relentless Defense לשנת 2026 של סיסקו מצא כי רק 36% מהארגונים באוסטרליה מיישמים בקרות עקביות על סוכני AI ועל זהויות שאינן אנושיות. בדוח תואר היעד על ידי דווש מהשווארי, סמנכ"ל הטכנולוגיות של Lendi Group, כ"אוטונומיה מוגדרת גבולות" (bounded autonomy), מצב שבו הסוכן יכול לפעול בשם המשתמש אך אינו יכול לחרוג מהגבולות שנקבעו לו. סולדר טען כי יש לאכוף את האמון ברמות הרשת והאבטחה, כך שהשליטה המובנית תהפוך מבלם לגורם המאפשר תנועה מהירה יותר. סיסקו מהמרת כי סל מוצרי הרשת, האבטחה ו-Splunk שלה יהווה את שכבת האמון עבור מערכות AI מבוססות סוכנים.
חמשת הלקחים שהציג קרוואלה למנהלי טכנולוגיה
בסיכום הטור מציג זאוס קרוואלה חמישה לקחים מעשיים עבור מנהלי טכנולוגיית מידע, המבוססים על ממצאי המחקר ועל שיחותיו עם מנהלים:
- הפיכת ה-AI לפרויקט של כלל צוות ההנהלה: יש לכלול את מנהל משאבי האנוש הראשי ואת סמנכ"ל הכספים לצד סמנכ"ל הטכנולוגיות, שכן מדובר בשינוי תרבותי ועסקי ולא רק בפרויקט טכנולוגי. השארת הנושא למחלקת ה-IT בלבד מובילה לפלטפורמות בנויות היטב שהעובדים אינם משתמשים בהן.
- התחלה בהיקף קטן והצגת תוצאות: מומלץ להתחיל בהישגים נראים לעין בעלי סיכון נמוך ולפרסם את התוצאות, כולל שיעורי שגיאות. נתוני הדוח הראו כי עבודה מהירה פי שלושה ללא עלייה בשגיאות שכנעה ספקנים יותר מכל הוראה ניהולית.
- קביעת גבולות ברורים: על העובדים לדעת במדויק מה מותר ומה אסור לעשות עם AI ללא צורך לחפש במסמכי מדיניות. גבולות ברורים מעניקים לעובדים ביטחון להתנסות.
- מדידת המדדים הנכונים: יש להפסיק להסתמך על כניסות למערכת כמדד יחיד, ולעקוב אחר התדירות שבה עובדים בודקים, מאתגרים או עוקפים תוצרי AI, שכן כוח עבודה שלעולם אינו מתנגד לתוצרים מהווה תמרור אזהרה.
- תיקון התשתיות לפני הרחבת האוטונומיה: יש לשדרג את מערכות ניהול הזהויות, הניטור והבקרות עבור סוכני AI לפני הרחבת האוטונומיה שלהם, שכן סוכנים פועלים במהירות מכונה ומרבית הארגונים עדיין אינם מיישמים בקרות עקביות על זהויות שאינן אנושיות.
קרוואלה מסכם כי המנצחים בתחום ה-AI לא יהיו בהכרח אלו שיחזיקו במודלים הטובים ביותר, אלא אלו שעובדיהם, הנהלותיהם ולקוחותיהם יתנו אמון מספק במערכות כדי לאפשר להן לבצע יותר. כפי שניסח זאת סולדר: המובילים במחקר אינם מרחיבים תחילה את ה-AI, אלא מרחיבים קודם כל את האמון.