בעידן שבו תמונות מזויפות משפיעות על בחירות ועל דעת קהל, אילון מאסק מפתיע ומשתף פוסט שמרמז על תכונה חדשה ב-X: אזהרת 'ויזואלים ערוכים'. הפיצ'ר הזה, שמופיע כעת בפלטפורמה, אמור להזהיר משתמשים מפני תמונות ששונו בעריכה או שנוצרו באמצעות AI. מאסק שיתף מחדש הודעה מחשבון DogeDesigner, חשבון אנונימי שמשמש לעיתים קרובות להכרזות רשמיות של X, והוסיף את הכיתוב 'Edited visuals warning'. הדבר מעלה שאלות רבות לגבי אופן הפעולה של המערכת.
ההכרזה מגיעה מפוסט של DogeDesigner, שטוען כי התכונה החדשה תקשה על כלי תקשורת מסורתיים להפיץ קטעי וידאו או תמונות מטעות. X, שבעבר הייתה טוויטר, כבר נהגה במדיניות דומה נגד מדיה מזויפת, שכללה עריכה סלקטיבית, קיצוץ, האטה או הוספת כתוביות מזויפות. ראש מחלקת שלמות האתר של טוויטר, יואל רות', הסביר זאת ב-2020. עם זאת, X לא פרסמה פרטים מדויקים על השינויים במדיניות החדשה, והאכיפה הנוכחית חלשה, כפי שנראה לאחרונה בסקנדל דיפפייק של תמונות עירום לא מסכימות.
השאלות נותרות פתוחות: האם המערכת מזהה רק תמונות שנוצרו ב-AI, או גם עריכות מסורתיות כמו פוטושופ? מאסק לא פירט, והחברה לא הגיבה לבקשות תגובה. בניגוד למדיניות קודמת של טוויטר, שכללה גם עריכות לא-AI, ייתכן ש-X מתמקדת כעת באיומי AI מתקדמים. זה חלק ממגמה רחבה יותר ברשתות חברתיות להתמודד עם תוכן מזויף, במיוחד בפלטפורמה שמשמשת כזירה לפוליטיקה ותעמולה.
מטא נתקלה בקשיים דומים כשהשיקה תיוג 'נוצר ב-AI' ב-2024. הכלי טעה ותייג תמונות אמיתיות שנערכו בכלים כמו פוטושופ או כלי AI של אדובי, כמו Generative Fill להסרת אובייקטים. בסופו של דבר, מטא שינתה את התווית ל'מידע AI' כדי למנוע בלבול. דוגמאות כאלה מראות כמה מורכב לזהות עריכה אוטומטית, במיוחד כשכלים יצירתיים משלבים AI.
כיום קיימות תקנים כמו C2PA (קואליציה לאימות מקור תוכן), CAI ו-Project Origin, שמוסיפים מטא-דאטה עמיד בפני שינויים לתמונות. חברות כמו גוגל, מיקרוסופט, אדובי, אפל, אינטל ו-OpenAI חברות בוועדה המנהלת, אך X אינה מופיעה כחברה. גוגל פוטוס משתמשת ב-C2PA, וטיקטוק מתייגת תוכן AI. אם X תאמץ תקנים כאלה, זה ישפר את האמינות, אך ללא פרטים, נשאר בספק.
התכונה החדשה עשויה לשנות את חוקי המשחק ב-X, פלטפורמה מרכזית להפצת חדשות ותעמולה פוליטית. עבור מנהלי עסקים ישראלים, שמשתמשים ב-X לקידום ולניטור דעת קהל, זה אומר צורך זהירות רבה יותר בתוכן ויזואלי. האם זה יפחית פייק ניוז? רק הזמן יגיד. מה דעתכם – האם תיוג אוטומטי מספיק?