Princeton University

מחקר חדש שנערך על ידי חוקרים מאוניברסיטת פרינסטון ואוניברסיטת שיקגו מראה כי מודלי שפה גדולים (LLMs) עלולים לפתח הטיות וסטריאוטיפים משל עצמם מתוך הניסיון שהם רוכשים, ובשיעור גבוה משמעותית מזה של בני אדם. החוקרים הריצו מודלים מובילים, בהם ChatGPT, Claude ו-Gemini, במשחק גיוס סימולטני שבו נדרשו לגייס עובדים למשרות שונות מתוך ארבע קבוצות אתניות בדיוניות. המודלים נטו להכליל במהירות ולבצע הפרדה תעסוקתית על בסיס נתונים דלים בלבד, כאשר מודל החשיבה o3 של OpenAI הציג את ההטיה החזקה ביותר. ממצאים אלו מעוררים דאגה ככל שחברות מטמיעות מודלי בינה מלאכותית לצורך סינון קורות חיים וראיונות עבודה בעולם האמיתי.

לפי כתבה במגזין WIRED, למרות שמודלי בינה מלאכותית מתקדמים מאומנים על מאגרי נתונים עצומים וצורכים אנרגיה רבה, הם עדיין נכשלים בהבנת העולם הפיזי והחברתי בהשוואה לתינוקות בני שנה. חוקרים ממוסדות מובילים כמו Meta וסטנפורד פיתחו את אתגר EgoBabyVLM, המעבד כ-1,000 שעות וידאו ממצלמות ראש של פעוטות, כדי לאלץ מודלי ראייה-שפה (VLMs) להתמודד עם המציאות המבולגנת של למידה אנושית. הממצאים מדגישים את הצורך בארכיטקטורות המשלבות עקרונות ממדעי הקוגניציה והמוח כדי ליצור אלגוריתמים יעילים ואנושיים יותר.

**צנזורה עצמית בצ'אטבוטים סיניים היא מצב שבו מודל מסרב לענות, מקצר תשובות או מחזיר מידע שגוי בנושאים רגישים.** לפי מחקר של Stanford ו-Princeton, DeepSeek סירב לענות על 36% מהשאלות הרגישות ו-Ernie Bot על 32%, בעוד GPT ו-Llama ירדו מתחת ל-3%. עבור עסקים בישראל, הלקח רחב יותר מהוויכוח על סין: מודל שפה שמסתיר מידע או ממציא תשובות עלול לפגוע בשירות, במכירות ובאמינות של מערכות פנימיות. לכן, לפני שמחברים AI ל-WhatsApp, ל-Zoho CRM או ל-N8N, צריך למדוד שיעור סירוב, דיוק ותיעוד — ולא להסתפק במהירות או במחיר.