חיפוש בחדשות

במחקר חדש של חוקרים מאוניברסיטת טובינגן, מכון מקס פלאנק, MATS Research וחברת Snyk, נחשפה שיטה לחילוץ עקבות חשיבה (chain of thought) מוצפנים ממודלי בינה מלאכותית מובילים כמו Claude, GPT ו-Gemini דרך ממשקי ה-API שלהם. השיטה מתבססת על שליחת המידע המוצפן לדגם חלש יותר בעל רמת אבטחה (alignment) נמוכה יותר. המחקר הראה כי הדגם הסיני Kimi K3 של חברת Moonshot AI מייצר פלטים הדומים לעקבות החשיבה של Claude Opus 4.8 ו-GPT 5.6 Sol, מה שמעלה חשדות לביצוע זיקוק (distillation) – אם כי לא הוכחה סיבתיות ישירה. בנוסף, השיטה איפשרה בעבר לשחזר מידע רגיש כמו סיסמאות ומפתחות API, פגיעות שתוקנה על ידי החברות בחודש שעבר.

על פי הנתונים שפורסמו באתר TechCrunch, הגידול בשימוש במודלים של קוד פתוח לעסקים אינו פוגע ברווחיהן של מעבדות ה-AI המובילות כמו Anthropic. לפי הנתונים של פלטפורמת Vercel, בעוד שהמודל הפתוח DeepSeek מוביל בנפח הטוקנים ומעבד מעל שליש מהנפח הכללי, Anthropic עדיין מחזיקה ביותר מ-50% מההוצאה הכספית הכוללת בזכות העלות הגבוהה של מודל הדגל שלה Opus 4.8 (העומדת על 1.37 דולר למיליון טוקנים). הדבר מצביע על מודל כלכלי דו-שכבתי שבו משימות מורכבות נשארות במודלי הקצה, בעוד משימות פשוטות עוברות לקוד פתוח.

חברת Anthropic (אנת'רופיק) הוסיפה מנגנון אבטחה מחמיר למודל הבינה המלאכותית Claude Fable 5 (קלוד פייבל 5) במטרה לרצות את משרד המסחר האמריקאי ולהסיר את מגבלות הייצוא שהטילו עליה. השינוי מגיע בעקבות מחקר של חברת Amazon (אמזון) וניתוח של חברת Luta Security (לוטה סקיוריטי), שחשפו כי משתמשים הצליחו לעקוף את חסמי הסייבר של המודל על ידי בקשות עקיפות לתיקון קוד במקום איתור חולשות. מנגנון האבטחה החדש מנתב שאילתות חשודות באופן אוטומטי למודל Claude Opus 4.8 הפחות מתקדם. עבור עסקים המטמיעים סוכני AI, המקרה מדגיש את החשיבות של בניית מנגנוני הגנה במודלי בינה מלאכותית שאינם תלויים אך ורק במפתחות המודלים.

חברת Anthropic השיקה רשמית את Claude Fable 5, הגרסה הציבורית הראשונה של מודל העל שלה Mythos. המודל החדש, המצטיין בכתיבת קוד ובמשימות אנליטיות מורכבות, מציע ביצועים חסרי תקדים שהשיגו 90% במבחני הביצועים של חברת Hex. יחד עם זאת, ההשקה מלווה במנגנוני בטיחות הדוקים החוסמים שימוש בתחומי סייבר וביולוגיה רגישים, ומעבירים את הטיפול ל-Opus 4.8. בנוסף, החברה מציגה מדיניות אבטחה חדשה ומחייבת של שמירת נתונים למשך 30 יום לכלל הלקוחות, ותמחור העומד על 10 דולרים למיליון טוקני קלט ו-50 דולרים למיליון טוקני פלט.

חברת Anthropic השיקה את Claude Fable 5, הגרסה הציבורית הראשונה של מודל העל Mythos. המודל החדש מציע יכולות יוצאות דופן בכתיבת קוד ובאנליטיקה, אך מגיע עם מגבלות בטיחות הדוקות ותג מחיר כפול ממודל Opus 4.8. בנוסף, החברה מטילה מדיניות שמירת נתונים מנדטורית של 30 יום על כלל התעבורה, כולל לקוחות ארגוניים, במטרה להתגונן מפני מתקפות סייבר מתוחכמות. דגם זה עשוי להוות זרז לפרויקטי אוטומציה מורכבים במיוחד, אך מצריך תכנון תקציבי קפדני והערכת סיכוני פרטיות רגולטוריים.