חיפוש בחדשות

5 תוצאות עבור "CPU".

בניית סביבת עבודה ארגונית עבור סוכני בינה מלאכותית
ניתוח
5 דקות
מ־MIT Technology Review

בניית סביבת עבודה ארגונית עבור סוכני בינה מלאכותית

דוח מחקר חדש של חברת אינטל, המבוסס על אלפי ניסויים שבוצעו על עומסי עבודה של סוכני בינה מלאכותית (Agentic AI), חושף כי פריסה מוצלחת של סוכנים אלו בארגונים דורשת גישה מערכתית מקיפה החורגת מעבר ליכולות של מודלי השפה עצמם. אינטל מציגה חמישה לקחים מעשיים לתכנון התשתית הארגונית, בהם מעבר לתכנון קיבולת לפי צפיפות סוכנים לכל ליבת מעבד (vCPU) במקום ספירת סוכנים, העדפת פריסה לרוחב (scale-out) כברירת מחדל, ושימוש במדדי זמני השהות באחוזון ה-95 (P95 latency) במקום בממוצע ניצול מעבד כדי לזהות דפוסי עבודה מתפרצים. ממצאי המחקר מספקים מפת דרכים מעשית למנהלים השואפים להטמיע סוכני AI באופן יעיל וחסכוני.

קרא עוד
שבבי AI לסוכנים: למה מטא קונה מיליוני Graviton מאמזון
ניתוח
6 דקות
מ־TechCrunch

שבבי AI לסוכנים: למה מטא קונה מיליוני Graviton מאמזון

**שבבי AI מבוססי CPU הופכים לרכיב קריטי בהרצת סוכנים, לא רק באימון מודלים.** עסקת Meta לשימוש במיליוני שבבי AWS Graviton מצביעה על שינוי חשוב בשוק: יותר עומסי inference, חיפוש, כתיבת קוד וניהול משימות רב-שלביות עוברים לחומרה שמציעה יחס עלות-ביצועים טוב יותר. לפי הדיווח, Graviton הוא CPU מבוסס ARM, בעוד GPU נשאר מרכזי בעיקר לאימון מודלים גדולים. עבור עסקים בישראל, המשמעות פרקטית: בניית מערכות AI צריכה להישען על סטאק נכון של מודל שפה, WhatsApp Business API, Zoho CRM ו-N8N, ולא על "עוד מודל" בלבד. מי שיבדיל בין עיבוד שפה לבין לוגיקה עסקית יוכל להוריד עלויות ולשפר זמני תגובה.

קרא עוד
שבב Arm AGI CPU למרכזי AI: למה המהלך הזה חשוב לעסקים
ניתוח
6 דקות
מ־TechCrunch

שבב Arm AGI CPU למרכזי AI: למה המהלך הזה חשוב לעסקים

**שבב Arm AGI CPU הוא המעבד העצמאי הראשון ש-Arm מייצרת בעצמה אחרי כמעט 36 שנות רישוי בלבד.** לפי הדיווח, השבב מיועד להרצת inference במרכזי נתונים ונבנה עם Meta כלקוחה ראשונה, לצד שותפות השקה כמו OpenAI, Cerebras ו-Cloudflare. עבור עסקים בישראל, המשמעות אינה רכישת שרתים חדשים אלא הבנה שהמאבק בשוק ה-AI עובר לעלות, זמינות ויציבות של תשתיות. מי שבונה היום תהליכי שירות, מכירות ותפעול על WhatsApp Business API, Zoho CRM ו-N8N צריך להתמקד בארכיטקטורה גמישה, מדידת זמן תגובה ועלות לפנייה, ולא רק בבחירת מודל שפה.

קרא עוד
GraphRAG ללא GPU: איך SPRIG מוזיל אחזור רב-שלבי
מחקר
6 דקות
מ־arXiv cs.AI

GraphRAG ללא GPU: איך SPRIG מוזיל אחזור רב-שלבי

**SPRIG הוא מודל GraphRAG מבוסס CPU בלבד שמנסה לשפר אחזור רב-שלבי בלי עלויות טוקנים ובלי GPU.** לפי תקציר המאמר ב-arXiv, השיטה משיגה שיפור ממוצע של 21% ב-Hit@10 וחותכת 28% מזמן האחזור לעומת PPR נאיבי, עם שינוי זניח ב-Recall@10. עבור עסקים בישראל, המשמעות היא שאפשר לבחון מנועי תשובה פנימיים על בסיס מסמכים, CRM ו-WhatsApp בתקציב נמוך יותר ובארכיטקטורה שמרנית יותר מבחינת פרטיות. המסקנה המעשית: אם השאלות שלכם באמת רב-שלביות, כדאי להריץ פיילוט CPU-only לפני השקעה ב-GPU.

קרא עוד