במאמר שפורסם ב-WIRED מתואר סוכן הבינה המלאכותית החדש של מטא, Muse, אשר הושק ככלי חינמי שמיועד לבצע משימות יומיומיות עבור משתמשים. על פי חלון ההסבר באפליקציה, הכלי מציע להעביר אליו משימות שגרתיות כמו איתור מבצעים, הזמנת מקומות וניהול תיבת הדואר הנכנס, וממשיך לפעול ברקע בזמן שהמשתמש ממשיך בשגרת יומו. הסוכן מתחבר למקורות מידע נוספים, כגון חשבון הדואר האלקטרוני וחשבון הבנק, כאשר אווטאר ברירת המחדל שלו מעוצב כשילוב בצבע בז' בין איווק ללבובי.
לפי נתוני Sensor Tower המוזכרים בפרסום, אפליקציית Muse הורדה מעל 900,000 פעמים בשבוע הראשון להשקתה. חוויית השימוש באפליקציה מתוארת כשליחת הודעות טקסט לחבר עם בקשות למשימות, כאשר הסוכן מגיב באימוג'י של אגודל מורם ומתחיל לפעול ברקע, והכלי זמין גם דרך פלטפורמת WhatsApp של מטא. לצד ההתלהבות סביב ההשקה, הועלתה במאמר ביקורת על היקף איסוף המידע האישי שהכלי מבקש מהמשתמשים. מנגד, דובר מטא, אמיל ואזקז (Emil Vazquez), מסר ל-WIRED כי Muse הוא הסוכן האישי הראשון שנבנה עבור כולם, הכולל הגנות מובנות ובקרות משתמש שמעניקות לאנשים שליטה מלאה באופן השימוש בו, והדגיש כי כל טענה לפיה המוצר לא נבנה מתוך מחשבה זו מראש היא מופרכת.
יכולות הגלישה והביצוע של המשימות
כאשר משתמש מבקש מ-Muse להשלים משימה, הסוכן משתמש במכונה וירטואלית (virtual machine) על מנת לגלוש באינטרנט במקומו, לבצע חיפושים וללחוץ על גבי עמודי אינטרנט שונים. בדיווח נמסר כי בשונה מכלים דומים שנבחנו בעבר, כמו הכלי שאינו פעיל עוד ChatGPT Agent שלחיצותיו היו בלתי צפויות ומלאות שגיאות, Muse נראה לעיתים רחוקות בלבד כמי שמאבד את דרכו בעת גלישה באתרים.
במסגרת בדיקה מעשית שתוארה בכתבה, התבקש הסוכן להזמין ארוחת בוקר ממאפייה מקומית בסן פרנסיסקו בשם Kahnfections, המהווה מוקד פופולרי לתיירים. המשתמש ביקש את אחת האפשרויות הנמכרות ביותר לאיסוף עצמי. Muse גלש לאתר המאפייה והוסיף לסל כריך ביסקוויט עם איולי שום, גבינת צ'דר, ביצה ובייקון. כדי להשלים את הרכישה, התבקש המשתמש להזין כרטיס אשראי באמצעות ספק התשלומים Stripe. בהסבר של Muse לקראת האישור הסופי נכתב כי האתר אפשר לבחור סוג גבינה אחד בלבד, ולכן נבחרה צ'דר ונוספה הערה המבקשת להוסיף גם גבינה שוויצרית אם הדבר מתאפשר, ובנוסף בחר הסוכן באפשרות ללא מתן טיפ.
מטא משתמשת ברשת הפלטפורמות שלה כדי לקדם את השימוש ב-Muse. שירותי WhatsApp ו-Messenger משמשים להצטרפות נוחה ולחיבורים, לצד מיקומים בולטים באינסטגרם המאפשרים לסוכן לבצע חיפושים בספריית סרטוני Reels. בבדיקות שנערכו, החיבור ל-Facebook Marketplace הפגין ביצועים בולטים, כאשר הסוכן מצא במהירות ספות מקומיות זולות למכירה בהתאם להגדרות שהתבקשו, והציע לשלוח הודעות למוכרים לתיאום איסוף. מאחר שהסוכן תוכנן לבצע מעקב יזום, הוא פנה למשתמש ביום שלמחרת כדי להציע לשקול שוב את רכישת הספה שסומנה כמועדפת.
מנגנון הזיכרון ואיסוף נתוני המשתמשים
הסוכן Muse שומר פרטים אודות האינטראקציות וההעדפות של המשתמש במסמך זיכרון (Memory), אליו ניתן לגשת באמצעות לחיצה על האווטאר במרכז העליון של המסך. התיאור באפליקציה מגדיר זאת כזיכרון ארוך טווח הכולל עובדות קבועות, העדפות והתחייבויות. משתמשים יכולים לשלוח בקשת צ'אט למחיקת נתוני הזיכרון וכן לערוך את הקובץ באופן ידני, אך מטא אינה מספקת כעת מתג המאפשר לכבות לחלוטין את תכונת הזיכרון.
תחת לשונית הרעיונות (ideas) באפליקציה, Muse הזכיר לכותב שוב ושוב לחבר מידע נוסף לסוכן. לאחר שהועלתה בקשה לעזרה בחיסכון כספי לחופשה, הציע הסוכן לחבר את מעקב החיסכון ליתרה האמיתית באמצעות קישור נתונים מחשבונות העובר ושב והחיסכון, במטרה שהסיכומים השבועיים וההתראות יתבססו על נתונים אמיתיים במקום על הערכות ידניות. בנוסף, האפליקציה הציעה לסרוק את תיבת הדואר הנכנס לסימון הודעות שחובה לקרוא (must-read), לצלם מסמכים חשובים כדי שהסוכן ימלא ויתייק אותם, לצלם ארוחות כדי להעריך קלוריות, ולתעד את מועד התפוגה של דרכון ורישיון נהיגה.
רורי מיר (Rory Mir), מנהל גישה פתוחה ב-Electronic Frontier Foundation, ציין בהקשר זה כי אנשים אינם מזהים שכאשר הם משוחחים עם בינה מלאכותית, הם משוחחים בפועל עם החברה שמארחת אותה, וכי חלונות הצ'אט מהווים הזנה ישירה של מידע אישי לתוך השרתים של מטא.
אימון מודלים, מדיניות פרטיות ופרסום
משתמשי Muse מצורפים באופן אוטומטי (opt-in) לשימוש באינטראקציות שלהם לצורך אימון מודלי בינה מלאכותית. מטא מציינת כי המידע עובר תהליך ניקוי (sanitized) להסרת פרטים מזהים לפני האימון, אם כי אופן ביצוע התהליך אינו מפורט במלואו. איסוף המידע עשוי לכלול גם הקשר שבו משתמש Muse בעת גישה למקורות נתונים מחוברים כמו תיבת דואר או חשבון בנק. משתמשים יכולים לבטל את איסוף המידע בהגדרות האפליקציה תחת בקרות נתונים (Data controls), באמצעות כיבוי המתג של שיפור מודלי ה-AI.
קאלי שרודר (Calli Schroeder), יועצת משפטית בכירה ב-Electronic Privacy Information Center, מתחה ביקורת על הדרישה מהמשתמשים לבצע ביטול יזום (opt-out), והזכירה כי מטא צירפה בעבר את כלל המשתמשים הבוגרים באינסטגרם למה שהיה במהותו כלי דיפ-פייק (deepfake) של בינה מלאכותית והסירה את התכונה מספר ימים לאחר מכן. מנגד, טארק שישה (Tarek Sheasha), מהנדס תוכנה וסגן נשיא ב-Meta Superintelligence Labs, הגן על איסוף הנתונים בפוסט בבלוג וטען כי מדובר בברירת מחדל טובה המאפשרת לכל משתמש לקבל סוכן אישי טוב יותר ככל שנעשה שימוש במוצר. מטא מתכננת בנוסף להשיק בהמשך השנה גרסאות חסויות של המכונה הווירטואלית שימנעו מהחברה גישה לנתונים שבתוכה באופן קריפטוגרפי ומאומת.
בנוגע למודל העסקי, הנתונים מ-Muse אינם משותפים ישירות עם מפרסמים, אך פעולות הגלישה של הסוכן עשויות להשפיע באופן עקיף על המודעות שהמשתמש רואה באינסטגרם, למשל בעקבות ביצוע הזמנת מקום במסעדה או בחירת מוצר ב-Facebook Marketplace. בנוסף, מנהל הבינה המלאכותית הראשי של מטא, אלכסנדר ואנג (Alexandr Wang), רמז בראיון ל-Axios כי החברה בוחנת הזדמנויות הכנסה נוספות ב-Muse שאינן פרסומות, ללא מסירת פרטים ספציפיים.
השפעות קוגניטיביות והתנהגותיות של סוכני בינה מלאכותית
מרגרט מיטשל (Margaret Mitchell), חוקרת ומדענית אתיקה ראשית ב-Hugging Face, התייחסה להשלכות של הסתמכות על סוכני בינה מלאכותית, וציינה כי תכנון הסוכנים גורם למשתמשים להפוך לפסיביים יותר ומנתק אותם ממעורבות. במחקר שכתבה בשיתוף עם חוקרים נוספים, נותח כיצד כלי סוכנים אינם מתוכננים בצורה יעילה לפיקוח אנושי ועלולים לפגוע ביכולת המשתמש להעריך את פעולות הסוכן.
ההסתמכות המוגברת על אוטומציה מגורם חיצוני בעל ניסוחים בעלי ביטחון עלולה להוביל לפגיעה קוגניטיבית (cognitive degradation), שבה פוחתת יכולתם של אנשים לקבל החלטות עצמאיות. כמו כן, מיטשל ציינה כי רמות גבוהות של התאמה אישית עלולות לגרום למשתמשים לשתף עוד יותר מידע אישי, כאשר הכלי מתאים את אופן הדיבור והנושאים למשתמש. מחקרים אחרונים מראים כי כלי AI עשויים להתחיל לשקף את סגנון הדיבור של המשתמש ככל שנאסף עליהם יותר מידע מאינטראקציות. לבסוף, לאחר סיום הניסויים באפליקציה, שלח הסוכן התראה אחרונה שהציעה לחבר אפליקציות נוספות כדי שיוכל לעשות יותר, בטרם הוסרה האפליקציה מהמכשיר.