מחקר
4 דקות
מ־MIT Technology Review
מה מראה (ומה לא מראה) הגילוי האחרון של אנתרופיק?
חברת אנתרופיק (Anthropic), המוערכת בשווי של כמעט טריליון דולר, פירסמה לאחרונה מחקר חדש שבו היא טוענת כי גילתה "חלון" אל המחשבות הפנימיות של מודל השפה קלוד (Claude). החוקרים זיהו מרחב פנימי שהם מכנים "מרחב ה-J" (או J-space), שבו מופיעות מילים שאינן חלק מהפלט הסופי אך משפיעות על פתרון הבעיות של המודל. וויל דאגלס הבן (Will Douglas Heaven), עורך בכיר ובעל דוקטורט במדעי המחשב, מסביר בראיון מיוחד מה בדיוק גילתה אנתרופיק, מדוע המתמטיקה של מודלי שפה היא כה מורכבת וכיצד ניתן להשתמש בגילוי זה כדי לנטר התנהגויות לא רצויות כמו הטיה או רמאות.
קרא עוד