חיפוש בחדשות

כתבה המבוססת על דיווח במגזין WIRED חושפת מבדק בטיחות מקיף שערך ארגון FAR.AI על מודלי בינה מלאכותית מובילים של ארבע חברות אמריקאיות גדולות. הבדיקה, שהשתמשה בכלי אוטומטי המייצר למעלה מאלף גרסאות של פניות בעייתיות, גילתה כי מודל Grok של SpaceXAI ומודל Gemini של גוגל פגיעים במיוחד לפריצה (Jailbreak), בעוד מודלי אנתרופיק ו-OpenAI הציגו חסינות מלאה למתקפה הספציפית. הדוח מדגיש את העלויות הנמוכות להפליא של הפעלת מתקפות אלו ואת הצורך הגובר ברגולציה חיצונית כפויה על התעשייה.

חברת אנתרופיק הכריזה על צעד חסר תקדים בשוק הבינה המלאכותית: הסכם אסטרטגי לשילוב כוח העיבוד של SpaceXAI – החברה הממוזגת של אילון מאסק הכוללת את SpaceX ואת xAI. במסגרת ההסכם, אנתרופיק תקבל גישה למחשב העל Colossus 1 הכולל כ-220,000 מעבדי תמונה של Nvidia, במטרה לפתור את עומסי המערכת שחווים מפתחי Claude לאחרונה. המהלך מגיע על רקע תחרות אדירה בתעשייה להשגת משאבי חומרה, ומלווה בהצהרת כוונות מסקרנת לבחינת הקמת חוות שרתים בחלל (מחשוב אורביטלי). עבור חברות ועסקים ישראליים המסתמכים על סוכני AI לייעול תהליכים, ברית זו מסמנת את חשיבות בניית ארכיטקטורת נתונים יציבה, המשלבת מספר מודלי שפה במקביל, למניעת תלות בתשתיות של ספק בודד.