Cornell University

מחקר חדש שנערך על ידי חוקרים מאוניברסיטת פרינסטון ואוניברסיטת שיקגו מראה כי מודלי שפה גדולים (LLMs) עלולים לפתח הטיות וסטריאוטיפים משל עצמם מתוך הניסיון שהם רוכשים, ובשיעור גבוה משמעותית מזה של בני אדם. החוקרים הריצו מודלים מובילים, בהם ChatGPT, Claude ו-Gemini, במשחק גיוס סימולטני שבו נדרשו לגייס עובדים למשרות שונות מתוך ארבע קבוצות אתניות בדיוניות. המודלים נטו להכליל במהירות ולבצע הפרדה תעסוקתית על בסיס נתונים דלים בלבד, כאשר מודל החשיבה o3 של OpenAI הציג את ההטיה החזקה ביותר. ממצאים אלו מעוררים דאגה ככל שחברות מטמיעות מודלי בינה מלאכותית לצורך סינון קורות חיים וראיונות עבודה בעולם האמיתי.

לפי דיווח במגזין WIRED, משרד התובע העירוני של סן פרנסיסקו, בהובלת דיוויד צ'יו, שלח מכתבי התראה רשמיים לחברות אפל וגוגל בדרישה להסיר מחנויותיהן 13 אפליקציות 'החלפת פנים' המאפשרות יצירת תמונות עירום מבוססות בינה מלאכותית ללא הסכמה. המכתבים מאשימים את ענקיות הטכנולוגיה בסיוע למכירת דיפ-פייק מיני ובהפקת רווחים של מיליוני דולרים מעמלות על רכישות בתוך האפליקציות. בעוד שגוגל מסרה כי חסמה מאות אפליקציות מפרות והגבילה מונחי חיפוש, אפל סירבה להגיב. מחקרים עצמאיים ואקדמיים חושפים כי מדובר בבעיה רחבת היקף שבה אפליקציות עוקפות את הפיקוח במסווה של כלים תמימים, תוך פגיעה קשה בנשים ובקטינים.

**LLM למחקר מדעי עם מקורות אוצרים הוא מודל שפה שמבוסס על מאגר מסמכים מבוקר, ולא על אינטרנט פתוח בלבד.** זה הלקח המרכזי ממחקר של Google Research וקורנל, שבו NotebookLM ומערכת RAG ייעודית עקפו מודלים כלליים במענה על 67 שאלות מומחים בפיזיקה. מבחינת עסקים בישראל, המסקנה מעשית מאוד: בתהליכים רגישים כמו שירות, ציות, מכירות או עבודה על מסמכים משפטיים, עדיף לחבר מודל שפה לידע ארגוני מאושר עם ציטוטי מקור והרשאות. עבור מי שעובד עם WhatsApp Business API, Zoho CRM ו-N8N, זו עדות ברורה לכך שמערכת מבוססת מקורות אוצרים תספק תשובות אמינות יותר ותקטין סיכון לטעויות.

**Comp היא דוגמה למעבר מכלי HR רגיל למודל שבו AI ומומחי משאבי אנוש עובדים יחד כדי לבצע עבודה בפועל.** לפי TechCrunch, החברה גייסה 17.25 מיליון דולר בהובלת Khosla Ventures כדי לפתח מערכת שמסייעת בגיוס, תגמול והערכות ביצועים, ובהמשך שואפת להפעיל סוכני AI אוטונומיים. עבור עסקים בישראל, הסיפור חשוב כי הוא מסמן שינוי רחב יותר: פחות תוכנה שמנהלת תהליך, ויותר מערכת שמבצעת חלק מהתהליך. המשמעות המעשית היא שאפשר לחבר AI, WhatsApp Business API, Zoho CRM ו-N8N כדי לייעל קליטת מועמדים, תקשורת ושמירת נתונים — בתנאי שמגדירים קודם מדיניות, הרשאות ובקרה אנושית.