משתמשי קלוד זועמים על סימני המים החדשים של אנתרופיק

החלטת אנתרופיק ודרישות הרגולציה האירופית

לפי דיווח של מגזין הטכנולוגיה TechCrunch מאת הכתב לוקאס רופק (Lucas Ropek), חברת אנתרופיק (Anthropic) קיבלה לאחרונה החלטה משמעותית להוסיף סימני מים לפלטים של צ'אטבוט הבינה המלאכותית שלה, קלוד (Claude). מדובר במדיניות חדשה הכוללת החדרת קוד בלתי נראה לתוך המלל העריכתי שמייצר הצ'אטבוט, אשר מיועד לסמן אותו בצורה מובהקת כתוכן שנוצר על ידי בינה מלאכותית. אנתרופיק החליטה על יישום המדיניות הזו כדי לעמוד בדרישותיו של קוד השקיפות (Transparency Code) של חוק הבינה המלאכותית האירופי (EU AI Act). חוק זה דורש כיום מחברות טכנולוגיה הפועלות בתחום לסמן ולתייג תכנים שנוצרו על ידי בינה מלאכותית, או שנערכו באופן כזה שמאפשר למערכות מחשב לזהות את מקורם האלגוריתמי. בעוד שהרגולטורים באירופה עשויים לראות בצעד זה התפתחות חיובית ומבורכת, משתמשים שונים של כלי בינה מלאכותית מביעים אי-שביעות רצון עמוקה ובולטת מהחלטה זו.

סערת הרשת ב-Reddit והתאוריות סביב סימני המים

העדויות המרכזיות לחוסר שביעות הרצון המבעבע בקרב משתמשי קלוד נמצאות בפלטפורמת רשת האינטרנט Reddit, שם התעורר דיון סוער בנושא, אם כי לא כל הגולשים באתר מסכימים זה עם זה. אחד הפוסטים היותר דרמטיים ומלאי פאתוס שנכתבו בנושא פורסם על ידי משתמש המכנה את עצמו visionode, שחשבונו ברשת רדיט הוא חדש יחסית ונפתח רק שלושה שבועות לפני כתיבת הדברים. המשתמש visionode טוען בפוסט שלו כי מערכת סימני המים החדשה היא סוג של קונספירציה דרקונית אשר נועדה להפוך את משתמשי הצ'אטבוט התמימים ברחבי העולם לקורבנות של המערכת. לפי קו הטיעון של visionode, בעוד שמשתמשי קלוד מנוסים ומתוחכמים יוכלו להסתיר את עקבות השימוש שלהם בבינה מלאכותית באמצעות ניסוח מחדש של הפלטים או על ידי ניקוי שלהם דרך שירותי בינה מלאכותית אחרים, המשתמש הממוצע והפשוט של קלוד יהיה זה שייתפס. לדבריו, משתמשים פשוטים אלו, המשתמשים בכלי לצורך משימות יומיומיות, יינזקו באופן ישיר וישיר מהמהלך של החברה.

ויכוח על אתיקה, העתקה ויצירתיות

בפוסט שלו הדגים visionode את טענותיו לגבי המשתמשים שיסבלו מהמהלך החדש: "מי ייתפס? אתם. הסטודנט שהשתמש בקלוד כדי לארגן מחדש פסקה כלשהי. העיתונאי שביקש מהבינה המלאכותית לסכם עבורו תמליל באורך של מאתיים עמודים. הכותב שסבל ממחסום כתיבה יצירתי וביקש מהצ'אטבוט להציע לו מילים נרדפות. האנשים האלה כולם יוצאים מהתהליך הזה כאשר מוטבע להם קעקוע דיגיטלי ישירות על המצח". כתב TechCrunch, לוקאס רופק, מציין במאמרו כי מבלי להמעיט בעוצמת הזעם והתסכול של המשתמש visionode, הדוגמאות הספציפיות שהוא בחר להציג אינן הטובות או המשכנעות ביותר. עיתונאי אשר מבקש ממערכת בינה מלאכותית לסכם תמליל ארוך ומורכב של מאתיים עמודים לא אמור להיות מוטרד או מודאג מסימן מים המצורף לאותו סיכום, אלא אם כן הוא בוחר להעתיק ולהדביק את הסיכום הזה מילה במילה ישירות לתוך הכתבה העיתונאית שלו — מעשה אשר נחשב לבלתי אתי באופן מובהק ושאינו אמור להתרחש מלכתחילה. באופן דומה, המאמר מציין כי התנהגות בלתי אתית מתקיימת גם כאשר סטודנט מעתיק ומדביק את פלטי התשובות של קלוד ישירות לתוך החיבור או העבודה האקדמית שלו לאחר שביקש מהצ'אטבוט רק "לארגן מחדש פסקה". גולשים אחרים ברדיט לא מיהרו להביע תמיכה בזעם של visionode. אחד המגיבים כתב בציניות "תראו את הבחור הזה", בעוד שמגיב אחר המליץ לו בפשטות "לקחת נשימה עמוקה" ולהירגע.

שאלת הקרדיט והכלי מול היוצר

המשתמש visionode לא היה היחיד שהתלונן ברשת על הצעד של אנתרופיק. משתמש אחר, שהיה מתוסכל מאוד מההחלטה, הגדיר את החדרת סימני המים כמעשה "בלתי אתי" ו"מגעיל". המשתמש טען כי בעת השימוש שלו בקלוד, הוא עצמו ביצע את החלק הארי של העבודה הקשה והמאומצת. לגישתו, הצ'אטבוט היה אך ורק "כלי עבודה" שנועד להקל על עבודתו המפרכת. המשתמש הסביר: "אני הוא זה שסיפק את ההנחיות המפורטות, את ההקשר, את ההחלטות ואת אינספור הסבבים של השיפורים והדיוקים של הטקסט, קלוד היה רק הכלי. אם קלוד מתחיל לסמן בסימני מים את הקוד או את כל דבר אחר שהוא מייצר, על מה בדיוק המודל הזה מנסה לקחת פה קרדיט?". גם נגד טענות אלו יצאו גולשים רבים ברדיט אשר תקפו את המבקר. "המודל לא מנסה לקחת קרדיט", השיב לו אחד המשתמשים בדיון. "הרעיון הוא לאפשר זיהוי ואיתור של פלטים שנוצרו על ידי בינה מלאכותית בשל הסיכונים השונים שפלטים אלו עלולים לגרום להם במגוון של מצבים ונסיבות". משתמש אחר עקץ את כותב התלונה וציין בלגלוג: "הבנאדם אפילו לא היה מסוגל להתלונן על קלוד בלי להשתמש בקלוד עצמו כדי לכתוב את הפוסט".

טענות על צביעות באימון המודלים

חלק מהמבקרים של החלטת החברה נמנעו מלהציג את עצמם כקורבנות וניסו להעלות טיעונים מעט יותר מורכבים ומעודנים נגד המדיניות החדשה של אנתרופיק. לדוגמה, אחד הגולשים התלונן על מה שהוא כינה צביעות כללית הכרוכה בהחלת סימני מים על מוצר עריכתי וטקסטואלי, אשר בעצמו נוצר ונבנה באמצעות שאיבה, איסוף וסריקה של עבודות ותכנים של אנשים אחרים ברחבי הרשת לצורך אימון המערכת. המשתמש כתב: "אני חושב שמדובר בכיוון מרושע מאוד לפנות אליו. אני עצמי לא משתמש בקלוד כדי לכתוב שום דבר, אבל המחשבה על בינה מלאכותית שמטביעה סימני מים על העבודה שלך היא אירונית בצורה מפחידה, במיוחד בהתחשב בכך שחלק גדול ממודלי החזית (frontier models) השיגו את נתוני האימון שלהם בדרך הזו".

רוב המשתמשים תומכים בשקיפות ובמעקב

למרות הקולות המוחים והביקורתיים, מרבית משתמשי הבינה המלאכותית נטו להביע תמיכה במערכת סימני המים החדשה, וראו בה דרך הגיונית, סבירה ונחוצה למעקב אחר תכנים וחומרים שנוצרו באמצעות אלגוריתמים ומערכות ממוחשבות. אחד הגולשים בשרשור אחר סיכם את הנושא באופן נחרץ וכתב: "אין באמת שום טיעון טוב שיסביר מדוע המהלך הזה הוא לא רעיון טוב. הסיבה היחידה שמישהו לא ירצה שיוטמעו סימני מים כאלה היא הרצון שלו לשקר לאנשים אחרים לגבי מקור העבודה שלו".