חיפוש בחדשות

חברת הסטארט-אפ Subquadratic מציגה פריצת דרך מתמטית בארכיטקטורת מודלי השפה בעזרת פיתוח מודל SubQ המבוסס על מנגנון קשב דליל דינמי. על פי הערכה עצמאית של חברת Appen, המודל החדש מציג מהירות עיבוד גבוהה פי 56 מטכנולוגיית FlashAttention, תוך שמירה על רמת דיוק של 98% במבחני שליפת מידע מחלון הקשר עצום של 12 מיליון טוקנים. בנוסף, החברה מדווחת על הפחתת עלויות דרמטית של הפעלת המודל - 8 דולרים בלבד בהשוואה ל-2,600 דולר במודלים מובילים מקבילים עבור משימות ארוכות. אף על פי שהמודל טרם שוחרר לציבור הרחב ומבוסס בחלקו על משקולות מודל Qwen הסיני, התוצאות מציבות חלופה מבטיחה לארכיטקטורת ה-Transformer המסורתית.

לקראת הנפקה ראשונית לציבור (IPO), חברת OpenAI (חברת הבינה המלאכותית שפיתחה את ChatGPT) מגייסת דמויות מפתח טכנולוגיות ופוליטיות. החברה צירפה את נועם שזיר (Noam Shazeer), ממפתחי ארכיטקטורת ה-Transformer וגוגל דיפמיינד, ואת דין באל (Dean Ball), לשעבר בכיר בממשל טראמפ בתחום מדיניות ה-AI, שיוביל צוות אסטרטגי חדש. המהלכים נועדו לבסס את מעמדה של OpenAI מול הרגולציה האמריקאית, במיוחד לאור מגבלות היצוא שהוטלו על מודלי Fable 5 ו-Mythos 5 של המתחרה Anthropic.

**Sessa היא ארכיטקטורת דקודר חדשה שממקמת Attention בתוך משוב רקורסיבי כדי לשפר זיכרון ארוך-טווח ושליפה סלקטיבית של מידע.** לפי מאמר חדש ב-arXiv, בתנאים תיאורטיים מסוימים היא מציגה דעיכת זיכרון איטית יותר ממודלי Transformer ו-Mamba-style, וגם תוצאות חזקות יותר במבחני long-context. עבור עסקים בישראל, המשמעות אינה החלפת מודל מיידית אלא הבנה שהדור הבא של סוכני שירות ומכירה יימדד פחות לפי גודל חלון ההקשר ויותר לפי היכולת לזכור פרטי לקוח, לשלוף התחייבויות קודמות ולעדכן מערכות כמו Zoho CRM ו-WhatsApp Business API בצורה עקבית.

**סמארטפון AI של אמזון הוא ניסיון להוציא את Alexa+ מהבית אל הכיס, כדי לשלוט טוב יותר בממשק, בנתונים ובהרגלי הקנייה של המשתמש.** לפי הדיווח, פרויקט Transformer עדיין מעורפל, בלי מחיר, תאריך השקה או מערכת הפעלה ידועה, ואנליסטים כבר מזהירים שיהיה קשה מאוד להתחרות ב-Apple וב-Samsung. עבור עסקים בישראל, הלקח החשוב אינו חומרה חדשה אלא הכיוון: ממשקים גנרטיביים וסוכנים שמבצעים פעולות במקום אפליקציות. לכן עסקים צריכים להכין עכשיו חיבורים בין WhatsApp Business API, ‏Zoho CRM, ‏N8N וסוכני AI, תוך תשומת לב לחוק הגנת הפרטיות, כדי לא להישאר מחוץ לערוץ החדש שבו לקוחות יבקשו שירות, תיאום וקנייה.

**“אזור בטיחות” במודל שפה גדול הוא ניסיון לזהות תת‑קבוצה של פרמטרים שאחראית להתנהגות בטיחותית, כדי להקפיא/להגביל רק אותה. לפי מחקר arXiv:2602.17696v1, ארבע שיטות נפוצות לזיהוי אזורי בטיחות (ממשקלים ועד שכבות Transformer) מייצרות חפיפה נמוכה‑בינונית במדד IoU, והחפיפה יורדת משמעותית כשמחדדים את האזור בעזרת Utility datasets (שאילתות לא מזיקות).** לעסקים בישראל זה אומר שלא כדאי לבנות על “נעילת פרמטרים” כפתרון בטיחות יחיד, במיוחד כשמחברים LLM ל‑WhatsApp Business API או ל‑Zoho CRM. במקום זאת, מומלץ להוסיף שכבת שער ב‑N8N, להגביל שדות שמותר לשלוף מה‑CRM, ולנהל מסלול הסלמה לנציג אנושי עם לוגים ובקרות ציות לחוק הגנת הפרטיות.