חיפוש בחדשות

חברת TypeSafe AI, שהוקמה על ידי חוקר OpenAI לשעבר דיוגו אלמיידה, השיקה את Jev — מודל טרנספורמר חדש שאינו מפיק טקסט אלא הסתברויות והחלטות מכוילות. המודל מאפשר קבלת החלטות מהירה וזולה לאוטומציית תוכנה ללא סכנת הזיות, הודות להגדרת הפלטים מראש על ידי המשתמש ואימונו הבלעדי על נתונים סינתטיים. מפתחים מדווחים על שיפורי מהירות משמעותיים ועלויות נמוכות בהשוואה למודלי שפה מסורתיים.

דוח חדש של עמותת SaferAI חושף כי מודל הבינה המלאכותית בעל המשקולות הפתוחות GLM-5.2, שפותח על ידי החברה הסינית Z.ai, מצמצם משמעותית את פער היכולות מול מודלי הקצה המובילים בעולם כמו GPT-5.5 ו-Claude Opus 4.7 בתחומי הסייבר והביולוגיה הדו-שימושית. עם זאת, הדוח מצביע על פער בטיחותי מתרחב: בעוד שהדגמים הסגורים מסרבים בעקביות לבקשות מזיקות, המודל הסיני הפתוח לא סירב לאף משימת סייבר התקפית או משימה ביולוגית שהוצגה בפניו במהלך הבדיקות. הממצאים מעוררים מחדש את הדיון הציבורי סביב ניהול הסיכונים הכרוכים בשחרור מודלים פתוחים, שכן מנגנוני ההגנה ברמת ה-API ניתנים להסרה או לעקיפה בקלות ברגע שמשקולות המודל מורצות באופן מקומי על ידי המשתמשים.

ברית ה-AI המאובטח והפתוח (OSAA) שהוקמה בהובלת חברת Nvidia ומאגדת מעל 120 חברות, מציגה תוצאות ראשוניות שבוע בלבד לאחר הקמתה. קבוצת העבודה SAFE, שפועלת תחת הברית ומנוהלת על ידי קרן לינוקס, הציגה במהלך כנס Black Hat בלאס וגאס הצעות להערות הציבור בנושאי אבטחת סייבר בבינה מלאכותית. ההנחיות עוסקות בדיווח חסוי על תקריות אבטחה, התרעה לנפגעים וניתוח אירועים ללא הטלת אשמה. במקביל, חברות מרכזיות כמו אנבידיה, אמזון, אוקטה ורד האט תורמות פתרונות קוד פתוח שונים עבור אבטחה וממשל של סוכני בינה מלאכותית, על רקע חששות בתעשייה מפני מגבלות ממשלתיות על מודלים פתוחים.

על פי דיווח ב-TechCrunch, מעבדת הבינה המלאכותית Safe Superintelligence (SSI), שנוסדה על ידי איליה סוצקבר, הכריזה על שותפות ארוכת טווח עם ענקית השבבים אנבידיה (Nvidia) להרחבת משאבי המחשוב שלה. במסגרת השותפות, המעבדה תקבל גישה לפלטפורמת המעבדים הגרפיים Vera Rubin של אנבידיה, שתגדיל את משאבי המחשוב שלה בסדר גודל שלם. העסקה כוללת גם השקעה שסכומה לא פורסם, אך לפי מקורבים מגיעה למיליארדי דולרים. השותפות נועדה להאיץ את שלב הצמיחה הבא של SSI, הפועלת ללא הסחות דעת מסחריות לבניית סופר-אינטליגנציה בטוחה ומיושרת, ומגיעה ברקע חששות בטיחות גוברים בתחום הבינה המלאכותית.

צוות המחקר של גוגל הציג גישה חדשה לאנליטיקה פרטית באפס אמון (Zero-Trust), המשלבת סביבות ביצוע מהימנות (TEEs) יחד עם קריפטוגרפיה מתקדמת מבוססת סריגים. מטרת הפתרון היא לאפשר למפתחים לאסוף תובנות סטטיסטיות על ביצועי מודלי בינה מלאכותית הרצים על מכשירי קצה, מבלי לקבל גישה למידע הגולמי של המשתמשים בשום שלב. המערכת כבר מיושמת במנגנון Android SafetyCore, ומבטיחה שהמידע יוצפן וישלח בהודעה בודדת (פרוטוקול One-shot), בניגוד לפרוטוקולים ישנים שדרשו חיבור רציף ואינטראקציה מרובת שלבים מצד המכשיר. פריצת דרך זו מאפשרת לחברות לדעת האם מודלי ה-AI שלהן מזהים איומים במדויק, תוך ביטול התלות הבלעדית בבידוד חומרתי המועד למתקפות ערוץ צדדי, ומסמנת את הסטנדרט החדש לאיסוף נתונים מאובטח.

**הסכם OpenAI עם הפנטגון מחדד נקודה אחת ברורה: שימוש ארגוני ב-AI דורש שכבת בטיחות, הרשאות ואחריות אנושית — לא רק מודל חזק.** לפי הדיווח, OpenAI איפשרה שימוש במודלים שלה ברשת מסווגת של משרד ההגנה האמריקאי, תוך התחייבות לעקרונות נגד מעקב המוני פנימי ולשמירה על אחריות אנושית בשימוש בכוח. עבור עסקים בישראל, זהו תקדים חשוב: אם ארגון ביטחוני דורש safeguards, גם מרפאות, משרדי עורכי דין, סוכני ביטוח וחברות נדל"ן צריכים לבנות AI עם לוגים, סירוב לפעולות רגישות, והעברת חריגים לנציג אנושי. הלקח המעשי: לשלב AI Agents, WhatsApp Business API, Zoho CRM ו-N8N בתוך ארכיטקטורה עם בקרה — לא כאוטומציה עיוורת.

**MoralityGym הוא Benchmark שמודד יישור מוסרי היררכי בסוכני קבלת החלטות, עם 98 דילמות אתיות כסביבות Gymnasium ומדד Morality Metric שמפריד בין הצלחת משימה לבין עמידה בנורמות.** לפי arXiv:2602.13372v1, גם שיטות Safe RL מציגות מגבלות כשהכללים סותרים ומדורגים. לעסקים בישראל זה רלוונטי במיוחד במערכות שירות ומכירה שמבצעות פעולות: WhatsApp Business API שמחובר ל-Zoho CRM דרך N8N יכול לסגור יותר פניות, אבל גם להפר כלל גבוה כמו פרטיות או הוגנות אם אין “שרשרת נורמות” מוגדרת. הצעד הפרקטי: להגדיר 10 החלטות רגישות, לקבוע להן היררכיית כללים (פרטיות/ציות מעל KPI), ולהוסיף לוגים והסלמה לנציג אנושי במקרים רגישים.

**El Agente Gráfico הוא מסגרת לסוכן LLM יחיד שמבצעת החלטות בתוך סביבת הרצה type-safe ושומרת מצב מתמשך ב-knowledge graph, במקום לנהל הכול בטקסט חופשי. לפי arXiv:2602.17902v1, הגישה משתמשת ב-Object-Graph Mapper שמייצג מצב חישובי כאובייקטים טיפוסיים ב-Python, כדי לשפר עקביות, תזמור כלים ומעקב פרובננס.** לעסקים בישראל זה רלוונטי בעיקר כשמחברים LLM למערכות תפעוליות כמו Zoho CRM, N8N ו-WhatsApp Business API: ברגע שיש ישויות מוגדרות ולוגים, אפשר לבנות Audit Trail שמקטין טעויות כמו עדכון לקוח לא נכון או פתיחת כרטיס כפול. התחילו בפיילוט של 14 יום לתהליך אחד, הגדירו סכימה ל-10–20 שדות קריטיים, ושמרו זיכרון מובנה (DB/גרף) מחוץ לצ’אט.

מודלי שפה גדולים בעוזרי נהיגה מסוכנים? DriveSafe חושף 129 סיכונים קריטיים ומגלה כשלי בטיחות ב-LLM מובילים. קראו עכשיו!

מודלי חשיבה גדולים (LRMs) מצליחים אך מסוכנים – חוקרים מציעים SafeRemind, שיטה שמזריקה תזכורות בטיחות ומשפרת ב-45%. קראו עכשיו על הפתרון החדשני. (48 מילים)

בינה מלאכותית גנרטיבית פותחת אפשרויות אדירות, אך מעלה סיכונים אתיים. SafeGen מציעה מסגרת בטוחה עם סינון פרומפטים ותמונות איכותיות. קראו על המדדים המרשימים ועל ההשלכות העסקיות.