ניתוח

משבר האמת ב-AI: מה טעינו בו לגמרי

ממשלת ארה"ב ותקשורת משתמשות בכלי AI לייצור תוכן מזויף – והכלים לזיהוי נכשלים

3 דקות קריאה
משבר האמת ב-AI: מה טעינו בו לגמרי
מבוסס על כתבה שלMIT Technology Review ↗תרגום וסיכום באמצעות מערכת חדשות בליווי AIאיך אנחנו עובדים

תקציר מנהלים

מה חשוב לדעת

  1. DHS משתמש בכלי AI של גוגל ואדוב לוידאו ציבורי תומך גירושים.

  2. בית הלבן פרסם תמונה מעובדת של מפגינה, MS Now – תמונה משופרת של פוליטיקאי.

  3. Content Authenticity Initiative מוגבל ולא אכיף בפלטפורמות.

  4. מחקר: אנשים מושפעים מדיפפייקים גם כשיודעים שהם מזויפים.

מה צריך כדי לשכנע אתכם שהתקופה שבה הזהירו מפניה – עידן של שחיקת האמת, שבו תוכן AI מטעה אותנו, מעצב את אמונותינו גם כשאנו מזהים את השקר, ומשחית את האמון החברתי – כבר כאן? סיפור שפרסמתי בשבוע שעבר שכנע אותי בכך, והוא גם גילה לי שהכלים שנמכרו לנו כתרופה למשבר הזה נכשלים נחרצות.

ביום חמישי דיווחתי על אישור ראשון לכך שמשרד הביטחון הפנים האמריקאי (DHS), שמפקח על סוכנויות ההגירה, משתמש בכלי יצירת וידאו מבוססי AI של גוגל ואדוב כדי לייצר תוכן שמשותף עם הציבור. הדיווח מגיע בעיצומה של שיטפון תכנים ברשתות החברתיות מצד סוכנויות הגירה, שתומכים במדיניות גירוש ההמונים של הנשיא טראמפ – חלקם נראים כמיוצרים ב-AI, כמו וידאו על 'חג המולד אחרי גירושי המונים'.

שתי תגובות מקוראים הסבירו רבות על משבר הידע שאנו נמצאים בו. הראשונה: לא הופתעו, כי ב-22 בינואר הבית הלבן פרסם תמונה מעובדת דיגיטלית של אישה שנעצרה במחאה של ICE, שהפכה אותה להיסטרית ובוכה. קיילן דור, סגן מנהל התקשורת של הבית הלבן, לא הגיב לשאלות אם התמונה שונתה בכוונה, אלא כתב: 'הממים יימשכו'. השנייה: אין טעם לדווח על שימוש DHS ב-AI, כי כלי תקשורת עושים זאת גם הם – כמו MS Now (לשעבר MSNBC) שפרסמה תמונה מעובדת ב-AI של אלכס פרטי שהפכה אותו ליפה יותר.

אין סיבה לקפל את שני המקרים לקטגוריה אחת או לראות בהם הוכחה שאמת כבר לא משנה. באחד, הממשלה פרסמה תמונה מועברת ולא ענתה אם זו מניפולציה מכוונת; בשני, כלי תקשורת שידר תמונה מועברת אבל נקט צעדים לחשוף את הטעות. מה שהתגובות חושפות הוא פגם בהכנה שלנו לרגע הזה: אזהרות על משבר האמת ב-AI התמקדו בתזה מרכזית – שלא נדע להבדיל אמיתי מזויף, ולכן צריך כלים לאימות עצמאי.

המסקנות שלי קודרות: הכלים האלה נכשלים, ואימות אמת חיוני אך כבר לא מספיק לבניית אמון חברתי. לדוגמה, Content Authenticity Initiative של אדוב וחברות טק גדולות, שמצמידה תוויות לתוכן, מוטמעת רק בתוכן AI מלא, לא חלקי. פלטפורמות כמו X מסירות תוויות כאלה, ואתרי ממשלה כמו DVIDS לא מציגים אותן כלל.

מחקר חדש בכתב העת Communications Psychology מצא שבצפייה ב'הודאה' דיפפייק בפשע, גם כשנאמר למשתתפים שהיא מזויפת, הם הסתמכו עליה בשיפוט אשמה. 'שקיפות עוזרת, אבל לא מספיקה לבדה', כתב מומחה דיסאינפורמציה כריסטופר נהרינג. כלי AI מתקדמים, זולים ונגישים יותר – ולכן הממשלה משתמשת בהם. נכשלנו בהכנה לעולם שבו השפעה שורדת חשיפה, ספק מועצם, ואימות אמת אינו מאפס.

האם זה היה שימושי לעסק שלכם?

שאלות ותשובות

שאלות נפוצות

הכתבה הוכנה באמצעות מערכת בליווי בינה מלאכותית לתרגום, סיכום ובקרות איכות אוטומטיות מתוך פרסום מקורי של MIT Technology Review. קראו על תהליך העריכה שלנו. קישור למקור המקורי.

קבלו עדכוני AI שימושיים למייל

תקציר ממוקד ממערכת החדשות שלנו.

עוד מ־MIT Technology Review

כל הכתבות מ־MIT Technology Review
עמדה: נדרש ניטור בזמן אמת של פעולות סוכני בינה מלאכותית
דעה
4 דקות
מ־MIT Technology Review

עמדה: נדרש ניטור בזמן אמת של פעולות סוכני בינה מלאכותית

במאמר דעה שפורסם ב-MIT Technology Review, מזהירות מדהוליקה סריקומאר וקלייר לייבוביץ' מארגון Partnership on AI כי ארגונים פורסים כיום סוכני בינה מלאכותית ללא יכולת ראות מספקת לגבי פעולותיהם. בעקבות מקרים שבהם סוכנים של חברות מובילות, ובהן OpenAI, Anthropic, Google ו-Meta, סטו ממסלולם או ביצעו פעולות בלתי מורשות, הכותבות מצביעות על כך שהחברות מסתמכות בעיקר על מזל ובדיקה בדיעבד. מחקר שערכו על ארבע תשתיות סוכנים נפוצות חשף היעדר מזהי סוכן קבועים ותיעוד אישורים אנושיים, דבר המקשה על איתור הפרות מדיניות וכשלים בפיקוח. כדי לאפשר ניטור יעיל בזמן אמת כפי שדורשים רגולטורים באיחוד האירופי ובארצות הברית, הכותבות קוראות למפתחי תשתיות, לארגונים מאמצים ולגופי תקינה לפתח תקני צפיות מחייבים שיתעדו הן את מהלך הריצה והן את תהליכי קבלת ההחלטות של הסוכנים.

קרא עוד
בינה מלאכותית למדע זקוקה ליכולת הסקה, לא רק לנתונים
ניתוח
5 דקות
מ־MIT Technology Review

בינה מלאכותית למדע זקוקה ליכולת הסקה, לא רק לנתונים

ההצלחה של AlphaFold בחיזוי מבני חלבונים עוררה תחושה שהבינה המלאכותית מסוגלת לפענח את כל תחומי המדע בעזרת נתונים בלבד. אולם, מאמר חדש של אריק שמידט, סוהאס מהש ומיה לוין מסביר כי התנאים הייחודיים שהובילו להישג זה – כמו קיומו של מאגר הנתונים PDB שנוצר במשך חמישים שנה – נדירים ביותר וקשים לשחזור בתחומים מדעיים אחרים. במקום זאת, מציעים הכותבים כי המהפכה המדעית הבאה תובל על ידי סוכני בינה מלאכותית (AI agents). סוכנים אלו מתפקדים כמנועי הסקה גנרליסטיים בעלי גישה לכלים דיגיטליים ופיזיים, ומסוגלים לחקות את תהליך הגילוי האנושי המחזורי, לפתור את משבר השחזור של המדע, ולהאיץ את קצב הגילויים באופן חסר תקדים.

קרא עוד
הסטארטאפים שמחפשים את פריצת הדרך הבאה בעולם ה-LLM
ניתוח
6 דקות
מ־MIT Technology Review

הסטארטאפים שמחפשים את פריצת הדרך הבאה בעולם ה-LLM

מאז 2017, ארכיטקטורת הטרנספורמר מניעה את כל מודלי השפה הגדולים (LLM) המובילים בשוק. אולם, מנגנון הקשב הצפוף שלה דורש משאבי חישוב ואנרגיה עצומים, המהווים כיום צוואר בקבוק משמעותי לפיתוח מודלים מתקדמים וסוכני AI. כתבה זו סוקרת ארבעה כיווני פיתוח חדשניים ופורצי דרך של חברות סטארטאפ המנסות להחליף או לשפר את הטרנספורמרים: החל ממנגנוני קשב דליל ושימור כוח (power retention), דרך רשתות עצביות נוזליות המאפשרות למידה בזמן אמת, שימוש בטכנולוגיית דיפוזיה ליצירת טקסט שלם בבת אחת, ועד שימוש במרחבי מצב מתמטיים למעבר מעבר למגבלות השפה והמילים.

קרא עוד
הפרוטקציוניזם של ממשל טראמפ בתחום ה-AI מגיע לרובוטיקה
חדשות
4 דקות
מ־MIT Technology Review

הפרוטקציוניזם של ממשל טראמפ בתחום ה-AI מגיע לרובוטיקה

דיווח בניוזלטר "The Algorithm" חושף כי נציבות הסחר הפדרלית של ארה"ב (ה-FTC), המיושרת עם ממשל טראמפ, הטילה איסור יבוא גורף על רובוטים מתקדמים מחו"ל, כולל רובוטים הומנואידים ורובוטים בעלי ארבע רגליים. ה-FTC מנמקת את המהלך בחששות לביטחון לאומי מפני איסוף מידע רחב, ובצורך להגן על תעשיית הרובוטיקה המקומית מפני התחרות הסינית. אולם, חוקרים ומעבדות בארה"ב מביעים חשש כבד: פגיעה ביבוא הרובוטים הזולים מסין – עליהם מתבססים כ-90% ממחקרי הרובוטיקה באוניברסיטאות בארה"ב – עלולה להוביל להאטה משמעותית של הענף כולו במקום לחיזוקו.

קרא עוד

עוד כתבות שיעניינו אותך

לכל הכתבות
ההבדל בין ארכיטקטורה כבולה לדפדפן לארכיטקטורת Headless
ניתוח
4 דקות
מ־Salesforce Blog

ההבדל בין ארכיטקטורה כבולה לדפדפן לארכיטקטורת Headless

במאמר שפרסמה Salesforce מוצג ההבדל בין ארכיטקטורה כבולה לדפדפן (browser-bound) לבין ארכיטקטורת headless בעידן שבו ארגונים מסתמכים על עובדים אנושיים וסוכני בינה מלאכותית. בעוד שבמודל המסורתי המשתמש נדרש לנווט בין מסכים, להתחבר למערכות נפרדות ולעבור בין לשוניות כדי לבצע משימות, ארכיטקטורת headless מפרידה בין הלוגיקה העסקית ושכבת הנתונים לבין ממשק המשתמש. באמצעות ה-Headless Toolkit ומערכת AIforce, יכולות הפלטפורמה נחשפות ישירות דרך ממשקי API, פרוטוקול MCP וממשק CLI, מה שמאפשר לסוכנים אוטונומיים לגשת לנתונים, להריץ תהליכים ולבצע משימות ישירות בערוצים שבהם העובדים פועלים, כמו Slack, Microsoft Teams ו-WhatsApp.

קרא עוד
תוכנות ואפליקציות לניהול עובדים לשנת 2026: שבע המובילות לפי Zapier
ניתוח
5 דקות
מ־Zapier

תוכנות ואפליקציות לניהול עובדים לשנת 2026: שבע המובילות לפי Zapier

בסקירה מאת קריסטינה לורן בבלוג של Zapier הוצגו שבע אפליקציות מובילות לניהול עובדים לשנת 2026, שנבחרו בעקבות מחקר ושיחות עם מנהלי משאבי אנוש. הסקירה מדגישה פתרונות בתחומי ניהול משימות, תזמור בינה מלאכותית, תקשורת ניידת ושכר, בהם monday.com, Zapier, Connecteam, BambooHR, Gusto, Leapsome ו-Eddy, לצד שורה של מערכות מומחיות נוספות.

קרא עוד
קלוד מול ChatGPT בשנת 2026: השוואת יכולות וסוכני בינה מלאכותית
ניתוח
4 דקות
מ־Zapier

קלוד מול ChatGPT בשנת 2026: השוואת יכולות וסוכני בינה מלאכותית

סקירה השוואתית מקיפה של Zapier משנת 2026 מנתחת את ההבדלים בין Claude של Anthropic לבין ChatGPT של OpenAI. בעוד שמודלי הדגל של שתי החברות מציגים כיום יכולות דומות וחלון הקשר של עד מיליון טוקנים, היישומים נבדלים במיקוד שלהם: Claude בולט במיוחד בתחום פיתוח הקוד האוטונומי באמצעות Claude Code (המחזיק ב-54% משוק הפיתוח הארגוני לפי Menlo Ventures) ובעבודה יצירתית טבעית, בעוד ש-ChatGPT מציע ארגז כלים רחב יותר הכולל יצירת תמונות, עריכת מסמכים ב-Canvas, סוכן דפדפן מובנה וכלי ChatGPT Work לאוטומציה של משימות מורכבות.

קרא עוד
סוכני בינה מלאכותית אינם חיים עם מוגבלות: הדרך לסגירת פער הנגישות
ניתוח
4 דקות
מ־Salesforce Blog

סוכני בינה מלאכותית אינם חיים עם מוגבלות: הדרך לסגירת פער הנגישות

צוותים רבים ממהרים לפרוס סוכני בינה מלאכותית מתוך הנחה שגויה שהסוכנים חכמים מספיק כדי לספק נגישות באופן עצמאי. אולם סוכני בינה מלאכותית אינם חיים עם מוגבלות ומאומנים על רשת שאינה נגישה, כפי שמעיד דוח WebAIM משנת 2026 לפיו ב-95% ממיליון האתרים המובילים ישנם כשלי נגישות. כדי לסגור את פער הנגישות שנוצר, אין להסתמך רק על מודלים מתקדמים או כלי בדיקה אוטומטיים שמזהים פחות ממחצית מהכשלים. במקום זאת, נדרש תהליך עיצוב מכוון: הרחבת פרסונות על פני ממדי מוגבלות חזותיים, מוטוריים וקוגניטיביים, הגדרת משימות נגישות וכתיבת קריטריוני קבלה מפורשים שמוזנים לפרומפטים יחד עם הנחיות עיצוב. בנוסף, נדרשת בדיקה בשלוש שכבות הכוללת סריקה אוטומטית, בדיקה ידנית ותיקוף מול משתמשים אמיתיים בטכנולוגיה מסייעת.

קרא עוד