לפי מאמר שפורסם בבלוג של סיילספורס (Salesforce), בינה מלאכותית סוכנית (Agentic AI) מסייעת לעובדים לבצע משימות שלא יכלו לבצע קודם לכן, אך בו-בזמן מעלה את השאלה האם היא עשויה להחליש מיומנויות קיימות. החוקרים בחנו כיצד עובדי ידע משתמשים ב-AI כדי להרחיב את יכולותיהם תוך שמירה על המומחיות ושיקול הדעת האנושיים שמקנים ערך לעבודתם. הממצאים מצביעים על פרדוקס: מהנדס-מעצב בכיר שרואיין והסתמך רבות על בינה מלאכותית במשך חודשים, סיפר כי קפא כששותפו ביקש ממנו עזרה בכתיבה והרגיש ששכח כיצד לכתוב; לעומתו, ארכיטקט הנדסה תיאר חוויה הפוכה, שבה דברים שרצה לעשות בעבר ולא היה מסוגל, הפכו לאפשריים עבורו כעת. החוקרים ציינו כי השאלה המרכזית אינה רק האם ה-AI מגביר פרודוקטיביות, אלא כיצד לתכנן את האינטראקציות עמו כדי להשתפר בעבודה ולקבל את היתרונות מבלי לאבד את המיומנות.
היקף המחקר של צוותי סיילספורס
צוותי המחקר של סיילספורס בחנו שיתוף פעולה בין אדם ל-AI כדי להבין כיצד לסייע לאנשים לשגשג בסביבת עבודה עם בינה מלאכותית, לא רק באמצעות שיפור הפרודוקטיביות, אלא על ידי מתן אפשרות ליצירתיות ולשיקול הדעת המקצועי להוביל החלטות משמעותיות. במסגרת המחקר רואיינו 17 עובדים בסיילספורס ב-11 תפקידים שונים, בהם מהנדסים, עורכי דין ומעצבים. בנוסף לכך, נערכו מיקרו-ראיונות עם 2,714 משתתפי קהילת סיילספורס (Salesforce Trailblazers) בכנס Dreamforce, נסקרו 47 מאמרים אקדמיים, ונותחו יותר מ-3,000 דוגמאות עבודה אמיתיות עם AI.
החוקרים הדגישו כי האנשים שנבדקו לא הסתפקו רק בשיחות טקסטואליות עם כלי AI, אלא בנו מערכות: הם הטמיעו את הסטנדרטים ושיקול הדעת שלהם בתוך מיומנויות AI, סוכנים ומנגנוני בדיקה הניתנים לשימוש חוזר. מתוך המחקר הראשוני עלה נושא מרכזי אחד: מומחים רבים מתנגדים לשימוש פסיבי ב-AI באמצעות הטמעת ספקנות מכוונת בתהליכי העבודה שלהם. אף שהביעו אמון גבוה ב-AI, אמון זה הושג באמצעות שגרות מכוונות ותהליכים ניתנים לשחזור שנועדו לכוון ולאמת את התוצרים. לפי המחקר, גם המשתמשים האינטנסיביים ביותר בסוכני קידוד התעקשו לשמור על "המייל האחרון" של שיקול הדעת האנושי בידיהם.
מלכודת האוטומציה וחיכוך פורה בתהליך העבודה
לפי החוקרים, כאשר ספקנות אינה מובנית בתהליך, והמערכת פועלת ללא פיקוח משמעותי, בינה מלאכותית עלולה לעודד קבלה פסיבית במקום שיקול דעת פעיל. תופעה זו מוכרת כהטיית אוטומציה (automation bias), שבה בני אדם הופכים לתלויים יתר על המידה בהמלצות ובתוצרים אוטומטיים. החוקרים מתארים זאת כחזרה מתמדת על השאלה "האם זה בסדר?", שבסופו של דבר הופכת את התשובה "כן" מהחלטה מודעת לרפלקס אוטומטי. זהו צד הצל של הפרדוקס: האוטומציה נטולת החיכוך שהופכת מומחה למהיר יותר עלולה לעקוף את שיקול הדעת שהופך אותו למהימן.
מומחים שרואיינו במחקר נתקלו בכשלים של AI שהניעו אותם לבנות בדיקות קפדניות יותר בתהליכי העבודה שלהם. בין הדוגמאות שצוינו במחקר: מודל שתיאר תוכן של קובץ שמעולם לא פתח, ומערכת אוטומציה שדיווחה שמשימה הושלמה על אף שלא רצה כלל. תגובתם של אותם מומחים לא הייתה להפחית את האמון ב-AI, אלא להטמיע ספקנות ישירות במערכת, כך שהיא לא תישען על כוח רצון בלבד כדי להתמודד עם הטיית האוטומציה.
החוקרים מגדירים גישה זו כמהלך תכנוני מרכזי: תכנון לטובת חיכוך פורה (productive friction). בהתבסס על המושג חיכוך מודע (mindful friction), שמציג השהיות מכוונות כדי לסייע במניעת נזק, חיכוך פורה הולך צעד נוסף ומכוון לעיצוב אינטראקציות עם AI שמחזקות באופן פעיל שיקול דעת אנושי, יצירתיות ומומחיות, במקום להסיר מכשולים או להפוך החלטות לאוטומטיות לחלוטין. לדוגמה, כתבת טכנית שרואיינה במחקר תפסה מודל AI שהתחזה לקריאה ממאגר חי של שכבת ההקשר המקצועית שלה (מידע על מוצרים, אוצר מילים וכדומה). בעקבות זאת, היא בנתה לולאת אימות חובה ששואלת "האם אתה בטוח?", המחייבת את המודל לעצור ולאשר את רמת הוודאות שלו בטרם ימשיך.
שמונה פרקטיקות לשמירה על שיקול דעת ומומחיות אנושית
החוקרים זיהו שמונה פרקטיקות מתפתחות שנועדו להשאיר את המומחיות ושיקול הדעת של האדם במרכז מערכות ה-AI:
-
מתן אפשרות ליישם שיקול דעת אנושי בנקודות חשובות: בניית הזדמנויות עבור המשתמשים להפעיל את מומחיותם בנקודות החלטה מרכזיות. הדבר כולל סוכנים או מיומנויות תלויי-תחום שמזהים מתי החלטה דורשת שיפוט אנושי ולא אוטומציה. לדוגמה, מערכת AI יכולה לעצור בנקודת החלטה קריטית ולשאול את המשתמש אם ההמלצה נראית נכונה, ואם משהו מרגיש שגוי, לסייע לו לבחון את הסיבה לכך לפני שממשיכים.
-
האדם מוביל תחילה (Human goes first): שימור החשיבה העצמאית של המשתמש לפני שה-AI מספק פתרון. גישה זו עשויה לכלול חשיפה מדורגת (staged reveal), שבה תגובת ה-AI מושהית עד שהמשתמש מסיים את ההערכה הראשונית או את העלאת הרעיונות. גישה נוספת היא שימוש ב-AI כעורך ולא כמחולל, מה ששומר על החשיבה והיצירתיות המקוריות של המשתמש. כמו כן, משתמשים יכולים להגדיר כוונה, מפרטים ותוכנית עבודה לפני שהם מבקשים מה-AI לבנות את התוצר.
-
הנדסת בדיקה וביקורת (Engineer scrutiny): הטמעת אימות בתוך תהליכי העבודה עם AI במקום להסתמך רק על ערנות אנושית לזיהוי טעויות. אחת המשתתפות במחקר בנתה יומן ביקורת (audit log) לסשנים של סוכן הקידוד שלה. בכל פעם שהיא מתקנת שגיאה, מפקפקת בטענה או החלטה של ה-AI, או משנה תוצר שהסוכן בנה, המערכת מתעדת זאת. היא בוחנת את היומנים בקביעות כדי לזהות דפוסים ולהתאים את מידת האוטונומיה, ההנחיות ותהליכי בדיקת השגיאות של הסוכן.
-
קבלת חוות דעת נוספת (Get a second opinion): שילוב נקודות מבט בלתי תלויות שמאתגרות הנחות ומציפות פערים. במקום להסתמך על מודל או כלי יחיד, ניתן להשתמש במספר סוכנים כדי להעריך את אותה משימה, להשוות מסקנות או לקיים דיון על גישות שונות. מהנדס-מעצב שרואיין בנה "מועצת בינה מלאכותית" (AI council) המורכבת מדמויות מומחים מתחומים שונים, כגון אבטחה, הנדסה ועיצוב מכיל. הסוכנים מתווכחים על פתרונות אפשריים ומדווחים על נקודות מחלוקת, מה שעוזר להתמודד עם תגובות AI נוחות מדי לריצוי ומחדד את הבנת הבעיה.
-
רתימת AI להתמודדות עם מורכבות במקום צמצומה: התנגדות לפישוט יתר של סוגיות וסיוע בבחינת ניואנסים ופשרות. מרואיינים רבים שיתפו כי AI עשוי לגרום לנושאים מורכבים להיראות פשוטים מכפי שהם, ולספק תשובות בטוחות בעצמן שמתעלמות מהקשר חשוב. במקום לבצע את כל פענוח המשמעות במקומנו, ה-AI יכול להציג זו לצד זו מספר פרשנויות סבירות לשאלה עמומה ולהסביר כיצד סדרי עדיפויות שונים עשויים לשנות את ההמלצה.
-
בעלות על יצירת הקשר ותקני איכות: סיוע למשתמשים להגדיר מה נחשב לתוצר "טוב" במקום לאמץ סטנדרטים אלה מתוך תוצרי ה-AI. הדבר יכול להיעשות באמצעות מאגרי ידע צוותיים משותפים ("מוח שני"), שבהם עובדים בונים ומתחזקים במשותף את ההקשר שעליו נשענים סוכני ה-AI, וכן באמצעות יצירת ערכות בדיקה ומדדי הערכה איכותיים לבחינת תוצרי ה-AI מול סטנדרטים מוסכמים.
-
מניעת תלות: הגנה על האוטונומיה של המשתמש והימנעות מתכנון המייצר היקשרות מיותרת. מרואיינים תיארו סשנים שבהם היכולת להפיק תוצרים במהירות הפכה את ההשקעה של זמן ואנרגיה מעבר למתוכנן לקלה מדי. כדי להתמודד עם כך, ניתן לתכנן חוויות AI שמספקות נקודות עצירה טבעיות המאותתות על סיום משימה ומזמינות להמשיך הלאה, במקום לסיים כל תשובה בשאלת המשך נוספת.
-
התאמת רמת הפיקוח לגודל הסיכון (Match oversight to the stakes): התאמת הבדיקה והמעורבות האנושית להשלכות של טעות אפשרית. טיוטה פנימית גולמית עשויה לדרוש בדיקה מהירה בלבד, בעוד החלטות מול לקוחות, החלטות ברמת הנהלה, החלטות תחת רגולציה או החלטות בלתי הפיכות עשויות לדרוש אימות קפדני יותר או אישור אנושי מפורש.
המלצות למנהלי צוותים ולמפתחי מוצרים
בסיום המחקר מציגים החוקרים צעדים מעשיים לפעולה: למנהלי צוותים המאמצים AI מומלץ לאתר את טקסי הבטחת האיכות שהעובדים המצטיינים כבר בנו, לעיתים קרובות מבלי לתת להם שם רשמי. השאלה המוצעת להפנות אליהם היא: "אם מישהו אחר היה מנסה להרחיב חלק מהעבודה שלך, איזו בדיקה הוא היה מפספס מכיוון שאין לו את המומחיות שלך?". תשובה זו מספקת בסיס להרחבת שיטות עבודה מומלצות באמצעות החלטות תכנון והטמעה.
עבור מפתחי מוצרי AI, החוקרים ממליצים להגדיר שגשוג אנושי כיעד מפורש לצד איכות ופרודוקטיביות. לפי המאמר, AI יכול לשמש כמכפיל כוח של ממש למיומנות מקצועית, אך רק כאשר תהליכי העבודה מתוכננים להגן על סוכנות אנושית, להוסיף מעט חיכוך פורה ולהתייחס למיומנות כחלק ליבתי של העבודה ולא כתוספת נחמדה בלבד. החוקרים מסכמים כי מי שמשגשג אינו בהכרח מי שנותן ב-AI את האמון הרב ביותר, אלא מי שמחליט באופן מודע היכן להשאיר את עצמו ליד ההגה. החוקרים ציינו כי ימשיכו להרחיב בנושא בפרסומים עתידיים.