ICLR 2026

בפוסט חדש מטעם Google Research, מדען המחקר ג'נגדאו צ'ן מציג ממצאים מתוך מאמר שהתקבל לוועידת ICLR 2026, המפענח את מקור ה'יצירתיות' של מודלי דיפוזיה. לפי המחקר, היכולת של המודלים הללו לייצר נתונים חדשים, במקום לשנן באופן עיוור את מאגר האימון שלהם, היא תוצאה מתמטית של תהליך החלקת פונקציית הציון (score smoothing). החלקה זו נגרמת באופן טבעי בשל השפעות רגולריזציה במהלך אימון הרשתות העצביות, המונעות מהן ללמוד פונקציות בעלות מעברים חדים במיוחד. כתוצאה מכך, המודל מייצר אינטרפולציה במרווחים שבין נקודות המידע המקוריות של האימון. בסביבה רב-ממדית, אפקט זה פועל בכיוונים המשיקים ליריעת הנתונים הנסתרת, וכך מאפשר להשיג איזון מדויק בין איכות הנתונים לבין היצירתיות שלהם.

**TurboQuant הוא אלגוריתם דחיסת זיכרון של Google Research שמיועד לצמצם את זיכרון העבודה של מודלי AI בזמן אינפרנס, ולפי החברה יכול להפחית את ה-KV cache בלפחות פי 6 בלי לפגוע בדיוק.** כרגע מדובר בפריצת דרך מחקרית ולא במוצר פרוס, אבל המשמעות לעסקים בישראל ברורה: אם טכנולוגיות כאלה יאומצו אצל ספקי ענן ופלטפורמות AI, עלות הרצת צ'אטים, סיכומי שיחות וסוכני שירות עשויה לרדת. עבור עסקים שמחברים WhatsApp Business API, Zoho CRM, N8N וסוכני AI, זהו אות חשוב לבדוק כבר עכשיו עלויות אינפרנס, צריכת זיכרון ויכולת סקיילינג.

**TurboQuant הוא אלגוריתם דחיסה חדש של Google Research שמקטין את זיכרון ה-KV cache ואת עלות החיפוש הווקטורי בלי לפגוע בדיוק, ולפי הדיווח משיג לפחות פי 6 חיסכון בזיכרון ועד פי 8 שיפור ביצועים על H100.** מבחינת עסקים בישראל, המשמעות היא פוטנציאל ממשי להוזלת מערכות AI שמטפלות במסמכים, צ'אט ושירות לקוחות. הערך הגדול אינו רק טכני: דחיסה טובה יותר יכולה לאפשר תגובות מהירות יותר ב-WhatsApp, שליפה חכמה ממסמכים ב-Zoho CRM, ופחות עומס תשתיתי במערכות מבוססות N8N וחיפוש סמנטי. ההמלצה המעשית היא להתחיל בפיילוט ממוקד, למדוד latency, עלות לפנייה ואיכות תשובה, ורק אז להרחיב.

**LLM למחקר מדעי עם מקורות אוצרים הוא מודל שפה שמבוסס על מאגר מסמכים מבוקר, ולא על אינטרנט פתוח בלבד.** זה הלקח המרכזי ממחקר של Google Research וקורנל, שבו NotebookLM ומערכת RAG ייעודית עקפו מודלים כלליים במענה על 67 שאלות מומחים בפיזיקה. מבחינת עסקים בישראל, המסקנה מעשית מאוד: בתהליכים רגישים כמו שירות, ציות, מכירות או עבודה על מסמכים משפטיים, עדיף לחבר מודל שפה לידע ארגוני מאושר עם ציטוטי מקור והרשאות. עבור מי שעובד עם WhatsApp Business API, Zoho CRM ו-N8N, זו עדות ברורה לכך שמערכת מבוססת מקורות אוצרים תספק תשובות אמינות יותר ותקטין סיכון לטעויות.

יותר מ-50% ממשתמשי AI מדברים שפות שאינן אנגלית, אך חסרים חוקי קנה מידה רב-לשוניים. ATLAS מגוגל פותרת זאת עם הדרכה מעשית לגודל מודל ותערובת שפות. קראו עכשיו על המחקר הגדול ביותר בתחום.