חיפוש בחדשות

לפי דיווח ב-TechCrunch, סטארט-אפ ענן הסקת הבינה המלאכותית General Compute גייס הלוואה בסך 400 מיליון דולר מחברת ההשקעות Upper90. עסקה זו עשויה להיות הראשונה מסוגה המשתמשת בשבבים ייעודיים להסקה (Inference) כבטוחות להלוואה, במקום המעבדים הגרפיים היקרים המשמשים לאימון מודלים. השבבים, מדגם SN50 מתוצרת SambaNova המגובה באינטל, מציעים צריכת אנרגיה נמוכה ואינם דורשים קירור מים יקר, מה שמאפשר פריסה מהירה. העסקה משקפת את תגובת השוק לעלויות הגבוהות של כלי בינה מלאכותית, ואת המעבר הגובר לתשתיות המריצות מודלים בקוד פתוח ביעילות רבה יותר.

המהפכה של הבינה המלאכותית דוהרת קדימה, אבל התשתיות הפיזיות מתקשות לעמוד בקצב. בכנס מילקן (Milken Global Conference) שנערך לאחרונה, התריעו בכירים בחברות כמו גוגל ו-ASML כי השנים הקרובות יתאפיינו במחסור חמור בשבבים מתקדמים ובמגבלות אנרגיה של חוות שרתים, שיובילו לעלויות ענן הולכות וגדלות באופן גלובלי. במקביל לצווארי הבקבוק הפיזיים בחומרה, חברות כמו Perplexity מציגות התפתחות מרתקת בשכבת התוכנה – מעבר ממנועי חיפוש מסורתיים ל'עובדים דיגיטליים' מבוססי סוכני AI, שמבצעים פעולות ישירות בתוך המערכות הארגוניות. מגמה זו מחייבת עסקים בישראל לאמץ מודלים חדשים של אבטחת מידע ובקרת הרשאות קפדנית, כדי להתמודד עם אתגרי אבטחה ולנצל נכון את הכלים. כדי להתמודד עם זינוק בהוצאות הענן ומחסור עולמי בכוח אדם מיומן, ההמלצה הברורה היא לשלב אוטומציה יעילה שלא נשענת רק על משאבי חישוב עצומים ואינסופיים.

**גרין פרומפטינג הוא שיטה לניסוח פרומפטים שמפחיתה עלות הרצה של מודלי שפה דרך שינוי המשמעות של המשימה, לא רק קיצור הטקסט.** לפי מחקר arXiv חדש, אורך הפרומפט פחות משמעותי מהסמנטיקה שלו, ומילים מסוימות עשויות להעלות או להוריד צריכת אנרגיה. עבור עסקים בישראל, המשמעות מעשית: אם אתם מחברים LLM ל-WhatsApp, ל-Zoho CRM או לזרימות N8N, ניסוח מדויק יותר יכול לשפר זמן תגובה ולצמצם עלויות API וחישוב. המסקנה המרכזית היא שלא כל תהליך צריך תשובה פתוחה; לעיתים סיווג קצר ומובנה ייתן תוצאה עסקית טובה יותר במחיר נמוך יותר.

בעידן שבו מודלי שפה גדולים (LLM) הפכו למרכזיות במערכות AI אג'נטיות, צריכת האנרגיה הגבוהה שלהם בשלב ההסקה עלולה להוות אתגר תקיים משמעותי. מחקר חדש מוכיח שמודלי LLM קטנים מפחיתים צריכה זו מבלי לפגוע בביצועים. קראו עכשיו את הניתוח המלא.

בעידן שבו עלויות ההסקה של מודלי AI תופסות נתח גדול מההוצאות התפעוליות, מיקרוסופט מציגה את Maia 200 – שבב מתקדם שמבטיח להאיץ את תהליכי ההסקה ולהפחית צריכת אנרגיה. קראו את המאמר המלא עכשיו!

חוקרים פיתחו מסגרת לסוכני AI מבוססי LLM לניהול אנרגיה בבניינים חכמים. המערכת כוללת שלושה מודולים: תפיסה, שליטה מרכזית ואקשן. בדיקות הראו דיוק גבוה בשליטה במכשירים (86%) וניתוח אנרגיה (77%). קראו עכשיו על ההשלכות העסקיות.

מפלגת המשפחות העובדות קוראת למתנגדי מרכזי נתונים להתמודד בבחירות, על רקע מחאות גוברות על צריכת אנרגיה והשפעות סביבתיות בעידן ה-AI. קראו את הפרטים המלאים.