חיפוש בחדשות

חברת הסטארט-אפ האמריקאית Etched (חברת שבבי AI אמריקאית) מדווחת על התקדמות דרמטית בפיתוח שבבי אינפרנס לבינה מלאכותית, עם צבר הזמנות חוזיות של מיליארד דולר עבור מערכות ה-'Frontier Inference Clusters' שלה. החברה, שהוקמה ב-2022 על ידי Gavin Uberti (מנכ"ל ומייסד שותף) ו-Robert Wachen (נשיא ומייסד שותף), חשפה כי גייסה עד כה 800 מיליון דולר, כולל סבב סודי של 500 מיליון דולר לפי שווי של 5 מיליארד דולר בדצמבר האחרון. השבבים של החברה, שיוצרו בהצלחה על ידי TSMC (חברת ייצור השבבים הטיוואנית), נועדו לייעל ולהוזיל את עלויות הרצת מודלי השפה בקנה מידה רחב.

**TPU הוא שבב AI ייעודי של Google, וכעת החברה מפצלת את דור 8 ל-TPU 8t לאימון ו-TPU 8i לאינפרנס. לפי Google Cloud, המהלך מספק עד פי 3 מהירות באימון, שיפור של 80% בביצועים לכל דולר ויכולת לחבר יותר ממיליון שבבים באשכול אחד.** המשמעות לעסקים בישראל אינה בחירת שבב, אלא ירידה אפשרית בעלות הרצת יישומי AI בענן. עבור מרפאות, משרדי עורכי דין, סוכני ביטוח וחנויות אונליין, זה עשוי להפוך פרויקטים כמו מענה ב-WhatsApp, ניהול לידים ב-Zoho CRM ואוטומציות ב-N8N לכלכליים יותר. בשורה התחתונה: המאבק האמיתי עובר מעליונות חומרה לעלות אינפרנס, יציבות תפעולית וחיבור נכון בין AI, CRM ו-WhatsApp.

**TurboQuant הוא אלגוריתם דחיסת זיכרון של Google Research שמיועד לצמצם את זיכרון העבודה של מודלי AI בזמן אינפרנס, ולפי החברה יכול להפחית את ה-KV cache בלפחות פי 6 בלי לפגוע בדיוק.** כרגע מדובר בפריצת דרך מחקרית ולא במוצר פרוס, אבל המשמעות לעסקים בישראל ברורה: אם טכנולוגיות כאלה יאומצו אצל ספקי ענן ופלטפורמות AI, עלות הרצת צ'אטים, סיכומי שיחות וסוכני שירות עשויה לרדת. עבור עסקים שמחברים WhatsApp Business API, Zoho CRM, N8N וסוכני AI, זהו אות חשוב לבדוק כבר עכשיו עלויות אינפרנס, צריכת זיכרון ויכולת סקיילינג.

**Nvidia GTC 2026 עשוי להיות אירוע מפתח לעסקים שבוחנים סוכני AI ארגוניים, לא רק לעולם השבבים.** לפי TechCrunch, הכנס עשוי לכלול את NemoClaw — פלטפורמת קוד פתוח לסוכני AI — לצד שבב חדש להאצת אינפרנס. המשמעות העסקית ברורה: אם עלויות האינפרנס ירדו והפריסה תהפוך פשוטה יותר, גם עסקים ישראליים יוכלו להפעיל תהליכים אוטונומיים בשירות, מכירות ותפעול. עבור מרפאות, משרדי עורכי דין, סוכני ביטוח וחנויות אונליין, זה עשוי לקצר זמני תגובה, לחבר בין WhatsApp, ‏Zoho CRM ו-N8N, ולהפוך פיילוטים של 4-6 שבועות למעשיים יותר.

**CHESS היא שיטה לניהול KV cache במודלי שפה ארוכי־הקשר, שמטרתה לשפר מהירות אינפרנס בלי לפגוע באיכות.** לפי המאמר ב-arXiv, המערכת מגיעה לתוצאות חזקות גם עם 1% בלבד מה-cache ומציגה עד פי 4.56 תפוקה. עבור עסקים בישראל, המשמעות היא פוטנציאל להריץ סוכני שירות, ניתוח מסמכים ושיחות WhatsApp על הקשר ארוך יותר, בזמן תגובה נמוך יותר ובעלות תשתית סבירה יותר. זה חשוב במיוחד למשרדי עורכי דין, ביטוח, מרפאות ונדל"ן, שבהם כל תשובה נשענת על היסטוריה ארוכה של מסמכים, טפסים ושיחות.

**עסקת השבבים של Meta עם AMD מסמנת שינוי עמוק בשוק ה-AI: לא רק מודלים קובעים, אלא גם תשתית, חשמל ועלות אינפרנס.** לפי הדיווח, Meta עשויה לרכוש שבבים בעד 100 מיליארד דולר — מהלך שמדגיש עד כמה כוח מחשוב הפך למשאב אסטרטגי. עבור עסקים בישראל, המשמעות המעשית היא צורך לבנות מערכות AI גמישות, לא כאלה שתלויות בספק יחיד. אם אתם מפעילים WhatsApp, CRM ותהליכי אוטומציה, כדאי לתכנן מראש חיבור מודולרי בין מודל השפה, תשתית ה-API והמערכות העסקיות. השילוב בין AI Agents, WhatsApp Business API, Zoho CRM ו-N8N הוא כרגע אחת הדרכים הפרקטיות ביותר להגיב נכון למגמה הזו.

**וקטורי היגוי הם דרך קלת-משקל לשלוט במודל שפה באמצעות הוספת הטיה ליניארית לאקטיבציות בזמן אינפרנס—אבל הם לא תמיד אמינים ברמת דוגמה.** לפי תזה ב-arXiv (2602.17881v1), אפשר לנבא מתי היגוי יהיה יציב באמצעות מדדים גיאומטריים: דמיון קוסינוס גבוה בין “דיפרנסים” באקטיבציות באימון, והפרדה טובה בין אקטיבציות חיוביות ושליליות לאורך כיוון ההיגוי. לעסקים בישראל, במיוחד כאלה שמפעילים שירות ומכירות ב-WhatsApp Business API ומחברים את השיחות ל-CRM כמו Zoho CRM, המשמעות היא שצריך לבנות בדיקות אמינות לפני פרודקשן ולהוסיף שכבת בקרה (למשל ב-N8N) שמנתבת לנציג כשיש מקרי קצה. אחרת, “עובד בממוצע” עלול להפוך ל-20% חריגות יקרות.

**אינפרנס על המכשיר הוא הרצה של מודל בינה מלאכותית ישירות על הטלפון או המחשב בלי לשלוח כל בקשה לענן. לפי TechCrunch, הסטארט-אפ הלונדוני Mirai (צוות של 14 עובדים) גייס Seed של 10 מיליון דולר ומפתח מנוע אינפרנס ל-Apple Silicon שנכתב ב-Rust ומבטיח עד 37% האצה במהירות generation בלי לשנות משקלי מודל.** לעסקים בישראל זה מתחבר ישירות לשני כאבים: עלויות API בענן וזמני תגובה בשירות ומכירות. המודל ההיברידי שמיראי מתארת—מקומי כשאפשר, ענן כשצריך—יכול להתאים במיוחד לתהליכים שמערבים WhatsApp ו-CRM: תמלול/סיכום מקומי, פתיחת ליד ב-Zoho CRM דרך N8N, והעברת מקרים מורכבים לענן. עכשיו זה הזמן למפות תהליכים, להגדיר KPI כספי, ולרוץ פיילוט קצר על Apple Silicon.

בעולם הדיגיטלי המשתנה במהירות, סוכני VLM מתקשים. Best-of-Q משפר אותם בזמן אינפרנס בעד 17% ללא אימון. קראו עכשיו על הפריצה הזו!