AGAPI: פלטפורמת AI סוכנית פתוחה לעיצוב חומרים מואץ

**ספקולטיב דיקודינג במובייל הוא דרך להאיץ הרצת מודלי שפה גדולים על מכשירי קצה באמצעות מודל קטן שמכין טיוטה ומודל גדול שמאמת אותה.** במחקר AHASD שפורסם ב-arXiv החוקרים מדווחים על עד פי 4.2 בתפוקה ופי 5.6 ביעילות אנרגטית לעומת בסיס GPU בלבד, עם תקורת חומרה של פחות מ-3% משטח ה-DRAM. עבור עסקים בישראל, המשמעות היא אפשרות עתידית להעביר חלק ממשימות ה-AI למובייל — למשל סיכום שיחות, סיווג פניות והשלמת טפסים — תוך שילוב עם Zoho CRM, ‏WhatsApp Business API ו-N8N. זה עדיין לא מוצר מדף, אבל הכיוון חשוב מאוד לכל ארגון שבונה תהליכי AI מהירים, חסכוניים ורגישים לפרטיות.

**Auto-ARGUE הוא כלי להערכת דוחות RAG עם ציטוטים, שנועד לבדוק אם מסמך שנוצר בידי מודל שפה אכן נשען על מקורות נכונים וניתנים לאימות.** לפי התקציר ב-arXiv, החוקרים בחנו אותו על משימות TREC 2024 ומצאו מתאם טוב ברמת המערכת מול שיפוט אנושי. עבור עסקים בישראל, המשמעות ברורה: אם אתם מייצרים סיכומי לידים, תקצירי תיקים, דוחות שירות או מסמכי הנהלה באמצעות מודלי שפה, אתם צריכים שכבת בקרה ולא רק שכבת יצירה. השילוב בין AI Agents,‏ WhatsApp Business API,‏ Zoho CRM ו-N8N יכול לספק תהליך עבודה חזק, אבל בלי מדידת איכות לדוחות עצמם, הסיכון לטעויות עסקיות נשאר גבוה.

**Likelihood Displacement הוא מצב שבו אימון מודל שפה להעדפות פוגע גם בתשובה הטובה, לא רק בגרועה.** המחקר החדש ב-arXiv מציע מסגרת בשם disentanglement band ושכבת Reward Calibration שמטרתן לשמור על התשובה המועדפת תוך דיכוי התשובה שנדחתה. עבור עסקים בישראל, המשמעות פרקטית מאוד: אם אתם מפעילים סוכן ב-WhatsApp, מחברים אותו ל-Zoho CRM ומנהלים תהליכים דרך N8N, כוונון שגוי עלול לפגוע בשירות, במכירות ובאיכות מיון הלידים. לכן המדד הנכון אינו רק "האם המודל פחות טועה", אלא גם "האם הוא ממשיך לענות היטב במקרים הטובים".

**גרין פרומפטינג הוא שיטה לניסוח פרומפטים שמפחיתה עלות הרצה של מודלי שפה דרך שינוי המשמעות של המשימה, לא רק קיצור הטקסט.** לפי מחקר arXiv חדש, אורך הפרומפט פחות משמעותי מהסמנטיקה שלו, ומילים מסוימות עשויות להעלות או להוריד צריכת אנרגיה. עבור עסקים בישראל, המשמעות מעשית: אם אתם מחברים LLM ל-WhatsApp, ל-Zoho CRM או לזרימות N8N, ניסוח מדויק יותר יכול לשפר זמן תגובה ולצמצם עלויות API וחישוב. המסקנה המרכזית היא שלא כל תהליך צריך תשובה פתוחה; לעיתים סיווג קצר ומובנה ייתן תוצאה עסקית טובה יותר במחיר נמוך יותר.

חברת Rippling השיקה השבוע מוצר חדש בשם AI Spend Console שנועד לסייע לארגונים לעקוב אחר הוצאות הבינה המלאכותית של עובדיהם ולרסן אותן. פיתוח המוצר החל לאחר שסמנכ"ל הכספים של Rippling גילה כי החברה בנתיב לשריפת מיליוני דולרים – כ-40% מתקציב השכר של מחלקת המחקר והפיתוח – על אסימוני בינה מלאכותית. ניתוח דפוסי השימוש הראה כי 10% עד 15% מהעובדים היו אחראים ל-60% מההוצאה, כאשר עובדים נטו להשתמש בדגמי החזית היקרים ביותר לכל משימה. באמצעות המוצר החדש ושער הניתוב שפיתחה, שהעביר שאילתות לדגמים חסכוניים יותר כמו GLM 5.2 של Z.ai, הצליחה Rippling להפחית את עלויות ה-AI ל-15% מתקציב כוח האדם של המחלקה, תוך שמירה על נפח שימוש גבוה ויציב של כ-600 מיליארד אסימונים.

חברת Wispr Flow, המוכרת בזכות כלי ההכתבה הקולית שלה, השיקה תכונה חדשה בשם Notetaker המאפשרת להקליט, לתמלל ולסכם פגישות עבודה בזמן אמת. הכלי, אשר פועל תחילה על מחשבי מק (Mac), מתחבר ליומן המשתמש ומספק סיכום מבוסס בינה מלאכותית לצד ממשק צ'אטבוט המאפשר לשאול שאלות המשך על תוכן השיחה. למרות שהתמלול מתבצע באופן מקומי על גבי המכשיר ואינו מציג את הכלי כמשתתף גלוי בפגישה, מנכ"ל החברה, טנאי קות'ארי, מדגיש את החשיבות שבקבלת הסכמה וגילוי נאות מצד המשתמשים, הן מתוך כבוד לפרטיות והן בשל היבטים משפטיים מקומיים הדורשים הסכמה של כלל המעורבים בשיחה.

חברת גוגל הכריזה על השקת Gemini Robotics ER 2, מודל חשיבה מגולמת (embodied reasoning) מתקדם המשמש כ'מוח' ברמה גבוהה עבור רובוטים. המודל מאפשר תכנון משימות מרובות שלבים, תיאום כלים בזמן אמת, והבנת סביבה מבוססת וידאו רציף. הוא כולל שיפורים משמעותיים במעקב אחר התקדמות משימות (בדיוק של 57.4%) ואיתור רגעים קריטיים (בדיוק של 91.3%), וכן תומך בשיתוף פעולה בין מספר רובוטים שונים. המודל זמין כעת למפתחים דרך ה-Gemini API, Google AI Studio ובגרסת תצוגה מקדימה פרטית ב-Gemini Enterprise Agent Platform.

אפליקציית Hint, סטארטאפ בינה מלאכותית חדש שהוקם בשיתוף אושיית הבית והאירוח מרתה סטיוארט, הושקה רשמית במטרה לסייע לבעלי בתים בניהול ותחזוקת הנכס. האפליקציה, שגייסה 10 מיליון דולר ממשקיעים מובילים, מאפשרת למשתמשים להזין את כתובתם כדי לבנות פרופיל נכס אוטומטי מבוסס נתונים ציבוריים, ולהעלות מסמכים אישיים כמו פוליסות ביטוח וחשבוניות. בעזרת עוזר בינה מלאכותית מובנה, המבוסס על ספריות של OpenAI ו-Gemini, המשתמשים יכולים לתשאל את מסמכי הבית, לקבל לוחות זמנים מותאמים אישית לתחזוקת מכשירי חשמל, ולעקוב אחר מדד איכות ניהול הנכס.