עקרונות לעיצוב בינה מלאכותית קולית ומסגרת איכות השיחה

במאמר שפורסם בבלוג של Salesforce בנושא עיצוב בינה מלאכותית קולית (Voice AI), מוסבר כי עיצוב ממשקי קול הוא תחום נפרד המעוצב על פי דינמיקות של שיחה בזמן אמת, כגון קצב, שתיקה והפרעות. ממשקי קול בלבד (voice-only interfaces) אינם פועלים כמו ממשק משתמש גרפי (GUI), שבו אנשים יכולים לסרוק מסך, לקרוא מחדש תשובה או לדלג קדימה בקצב שלהם. אינטראקציות קוליות הן ארעיות מטבען ומחייבות הקשבה פעילה והחזקת מידע בזיכרון, דבר שעלול ליצור עומס מחשבתי ולפגוע באמון אם השיחה אינה מתוכננת בהתאם לאופן שבו בני אדם מתקשרים. בניגוד למערכות מענה קולי אינטראקטיבי (IVR) המוכרות והצפויות, מערכות בינה מלאכותית קולית מייצרות תגובות בהתאם למצבו של כל מתקשר, ודורשות הבנה של צרכי המתקשר, זיהוי מצבו הרגשי וההקשר, ותגובה הולמת.

הבדלים בין ממשק גרפי לממשק קולי ולמידה משיחות אמיתיות

בממשק משתמש גרפי המשתמשים שולטים בקצב ההתקדמות, בעוד ממשק קולי (VUI) מתפתח בזמן אמת דרך שיחה מדוברת ודפוסי תקשורת. לקוח עשוי שלא לומר במפורש שהוא לחוץ, אך קיימים אותות אחרים המעידים על כך:

• השהיות והיסוסים במהלך הדיבור.
• הפרעות וחזרות על דברים שנאמרו.
• שינויים בקצב הדיבור ובבחירת המילים.
• שינויים בטון ובשפה הרגשית.

במקביל, התנהגויות של סוכן הבינה המלאכותית עלולות לייצר חיכוך. השהיה של שלוש שניות מצד הסוכן עשויה להרגיש ארוכה בהרבה כאשר אין חיווי על המתרחש במערכת; חזרה על שאלה יכולה לתת תחושה שהמשימה תקועה; ואישור מיותר עשוי להוסיף שניות לאינטראקציה ממושכת.

ניתוח והערכה של הקלטות שיחה ותמלולים מבוארים בין סוכנים אנושיים למתקשרים מהווים נדבך מרכזי להבנת האופן שבו אנשים מתקשרים. לקוחות נוטים לדווח על תסמינים ולא על סיבות שורש, כגון תיאור הסוכן כ"רובוטי", "איטי" או "מתסכל", או ציון חוסר ודאות לגבי השאלה האם הסוכן עדיין מקשיב. הצלחה טכנית אינה שקולה בהכרח להצלחת משתמש.

המאמר מציג שתי דוגמאות מתחום קליטת תביעות ביטוח הממחישות את ההבדל בין עיצוב קשיח לעיצוב המותאם לשיחה אמיתית:

1. מילוי משבצות קשיח מול מענה מותאם: כאשר הסוכן שואל "האם האובדן קשור אליך, המתקשר, או לתובע צד שלישי?", והמתקשר עונה "שניהם", סוכן קשיח שאינו מתוכנן לתשובה זו יחזור ויבקש לבחור בין האפשרויות עד שהמתקשר נכנע ובוחר תשובה שאינה מדויקת. לעומת זאת, סוכן מותאם מזהה שהתשובה מתייחסת לשני הגורמים, מאשר שהתביעה תכלול את שניהם, וממשיך באיסוף הפרטים.
2. חוסר אמפתיה מול אמפתיה משופרת: כאשר מתקשר מדווח על תאונה ואובדן חיי אדם, תגובה קצרה בסגנון "אני מצטער לשמוע, האם יש לך מספר פוליסה?" אינה מספקת אמפתיה. תגובה מותאמת מכירה בקושי, אינה מאיצה במתקשר, ומציעה מספר אפשרויות להמשך: חיבור מיידי לנציג אנושי, התחלת התהליך עם הסוכן, או חזרה טלפונית במועד מאוחר יותר.

מסגרת איכות הקול: שלושת הרבדים ו-15 היוריסטיקות

מסגרת איכות הקול (Voice Quality Framework) פותחה על בסיס ניתוח שיחה ועיצוב מערכות IVR, ומחלקת את כשלי העיצוב והכללים לשלושה רבדים:

• רובד 1 (שכבת יסוד): שאלות בטיחות ודיוק – האם הסוכן בטוח ומדויק, האם ניתן להבין את המשתמשים, והאם ניתן להבין את הסוכן. אם הסוכן נכשל ברובד זה, מומלץ שלא להשיקו.
• רובד 2 (פונקציונליות וסיכוני נטישה סמויים): בדיקה האם המשתמשים סומכים על כך שהמשימות יושלמו ביעילות, או שמא הם הולכים לאיבוד ופונים להסלמה לנציג אנושי כאשר השיחה חורגת מהנתיב הראשי.
• רובד 3 (חוויית לקוח): בחינה האם הסוכן קל לשימוש, טבעי, עקבי ומסתגל, גורמים המבדילים בין סוכן שרק מתפקד לבין סוכן שמשתמשים רוצים להמשיך להשתמש בו.

במסגרת זו מוגדרות 15 היוריסטיקות (עקרונות עיצוב) להערכת חוויית השיחה:

1. אמיתיות (Truthfulness): הימנעות מהזיות (hallucinations), סתירות ושגיאות עובדתיות.
2. אמון (Trust): היצמדות להרשאות המוגדרות, הגנה על מידע פרטי והודאה כנה באי-יכולת לסייע.
3. מודעות להתאוששות (Recovery-Awareness): זיהוי מקרים שבהם השיחה סוטה מהמסלול ושינוי טקטיקה במקום חזרה על אותם דברים.
4. מובנות (Intelligibility): איכות שמע טובה, קצב דיבור טבעי והגייה נכונה.
5. אפקטיביות (Effectiveness): ביצוע הבקשות בפועל, כולל בקשות ניווט ויציאה לנציג אנושי.
6. היענות (Responsiveness): הימנעות משתיקה מביכה ויידוע המשתמש שהמערכת מעבדת את המידע.
7. התנהגות אישורים (Confirmation Behavior): מינון נכון של אישורי פעולות קריטיות מבלי לאשר כל פרט שולי.
8. זיכרון והקשר (Memory and Context): זכירת מידע שנמסר או שקיים במערכת ללא צורך לבקשו שוב.
9. יכולת הסתגלות (Adaptability): התאמה חלקה כאשר המשתמש מתקן את הסוכן או משנה את דעתו, ללא וכחנות.
10. החלטיות (Decisiveness): קידום השיחה באמצעות תשובות ברורות וצעדים הבאים.
11. סובלנות להפרעות (Interruption Tolerance): עצירה והקשבה כאשר המשתמש מתפרץ לדברי הסוכן, והמשך חלק לאחר מכן.
12. זרימת שיחה (Conversation Flow): דיבור טבעי ללא מלל מיותר, ומתן הסבר פשוט בעת תקלה ללא הצגת אמפתיה מזויפת או הטלת אשמה.
13. עקביות (Consistency): שמירה על אוצר מילים, טון ואישיות אחידים לאורך השיחה, והימנעות מקול LLM קלישאתי וגנרי.
14. נגישות (Approachability): הבנת שפת יומיום, סלנג ומבטאים, והתאמה להחלפת שפות מצד המשתמש.
15. יסודיות (Thoroughness): סיום המשימה במהלך השיחה, אישור ביצועה והצעת עזרה רלוונטית לפני סיום.

מסגרת זו מאפשרת חיבור בין עיצוב, מוצר והנדסה, ומאפשרת תהליכי הערכה אוטומטיים של שיחות בקנה מידה רחב, זיהוי דפוסים ומיפוי כשלים לפי תורות דיבור ספציפיים.

יישום עיצוב קולי ב-Agentforce: שלושת הרובדים

לפי מאמר שעתיד להתפרסם מאת פיליפ הנגי (Philipp Hänggi), יישום העיצוב ב-Agentforce מתחלק לשלוש שכבות:

1. הנחיות פרומפט בטקסט (Prose prompt instructions): שליטה בהתנהגות השיחתית (כגון מבנה תור הדיבור, מיקוד סיום וניסוחי תיקון) באמצעות כתיבת כללי תור מוגדרים במקום הנחיות טון כלליות.
2. לוגיקה דטרמיניסטית ומשתנים (Deterministic logic & variables): הבטחת רצף פעולות קבוע, כגון משתנים למילוי משבצות מידע, מוני ניסיונות חוזרים, אישורי סיכום חובה ולוגיקת הסלמה אוטומטית (למשל הסלמה לאחר שלושה ניסיונות תיקון שנכשלו).
3. הגדרות ערוץ קולי (Voice channel configuration): ניהול ההיבטים הקוליים ותזמון, כולל בחירת קול המרה מטקסט לדיבור (TTS), הגיית מילים מותאמת אישית, צלילי מילוי (filler turns), התפרצות אקוסטית (acoustic barge-in) וניתוב טלפוניה.

גישה היברידית זו משלבת שטף שפתי של מודל שפה יחד עם לוגיקה דטרמיניסטית המבטיחה אמינות ורצף פעולות מדויק. סוכני קול מבוססי עיצוב זה מספקים מענה למאפייני שיחה אמיתיים הכוללים היסוסים, רגשות, הפרעות ותשובות בלתי צפויות.