חיפוש בחדשות

בפוסט של מומחי AWS מוצג מודל תפעולי בן חמישה שלבים לניהול עלויות ב-Amazon Bedrock, המיועד לצוותי FinOps והנדסת פלטפורמה. המודל מתמקד בעומסי עבודה של סוכני בינה מלאכותית (agentic workloads), שבהם צריכת הטוקנים מושפעת מרמת האוטונומיה וגודל ההקשר. חמשת השלבים כוללים: שיוך עלויות לכל ישות וצוות באמצעות תגי IAM ודוחות CUR 2.0; יצירת יכולת תצפית ובקרה באמצעות רישום יומני הסקה ב-CloudWatch וב-S3 לצד מטא-דאטה מובנית; אכיפת תקציבים בשלוש רמות (התראות, שלילת הרשאות ב-IAM או חסימה סינכרונית בשער); מיטוב ברירות מחדל באמצעות שמירה במטמון (prompt caching) וניתוב מודלים חכם; והפעלת סקירת ביצועים משותפת מבוססת מדדים ברורים.

בפוסט שפורסם ב-AWS הוצג אוסף של 38 מיומנויות סוכן (Agent Skills) בקוד פתוח ב-11 תחומי בריאות ומדעי החיים (HCLS) תחת רישיון MIT-0. המיומנויות בנויות כקובצי Markdown מובנים ומסווגות למיומנויות הסקה ולמיומנויות צינור, הניתנות להרצה על יותר מ-20 שירותים, כולל Amazon Bedrock AgentCore, AWS Strands SDK ו-Kiro CLI. הערכה השוואתית שבוצעה על 410 פרומפטים הראתה כי סוכנים המצוידים במיומנויות השיגו שיעור ניצחון של 69.5% עד 85.9% מול סוכני בסיס ללא מיומנויות, כאשר השיפור המשמעותי ביותר נמדד בממד החשיבה הביקורתית (שיעור ניצחון של 78% עד 85.1%). בנוסף, המיומנויות הפחיתו את שונות הציונים בעד 61.9%.

חברת הסטארט-אפ Naïve הודיעה על גיוס של 28.5 מיליון דולר בסבב Series A בהובלת Nexus Venture Partners. החברה מציעה תשתית טכנולוגית המאפשרת לסוכני בינה מלאכותית להקים ולנהל עסקים דרך API יחיד, המאגד שירותי רישום LLC, הקמת תיבות אימייל, הפקת כרטיסים וירטואליים וחיבור למערכות פיננסיות. עם בסיס לקוחות של מעל 30,000 מפתחים וצמיחה פי 10 בקצב ההכנסות השנתי בחצי השנה האחרונה, החברה מתמקדת כעת בפיתוח ארבעה פרויקטי תשתית שנועדו להוזיל את עלויות ההרצה וההסקה של סוכני ה-AI.

חברת גוגל (Google) השיקה את DiffusionGemma, מודל קוד פתוח ניסיוני מבוסס טכנולוגיית דיפוזיית טקסט המציע מהירות יצירת טקסט הגבוהה פי 4 בהשוואה למודלים אוטו-רגרסיביים מסורתיים. המודל, המבוסס על סדרת Gemma 4, משלב ארכיטקטורת Mixture of Experts (MoE) עם 26 מיליארד פרמטרים (מתוכם 3.8 מיליארד פעילים בהסקה) ומעבד פסקאות שלמות במקביל במקום מילה אחר מילה. תכונה זו פותרת את צווארי הבקבוק של חומרת קצה ומאפשרת ביצועים של מעל 1,000 אסימונים בשנייה על כרטיסי מסך ארגוניים. עבור עסקים בישראל, פריצת דרך זו מאפשרת הרצת יישומי בינה מלאכותית מקומיים ומאובטחים לחלוטין התואמים את חוק הגנת הפרטיות, ללא תלות בענן ציבורי.

**קריטיות עצמית במודלי שפה היא מצב שבו המודל מתקרב לנקודת מעבר־פאזה, ולפי מחקר חדש זה עשוי להסביר why reasoning מופיע בזמן inference.** המאמר ב-arXiv טוען כי במודלי PLDR-LLM, כאשר פרמטר הסדר מתקרב לאפס, ביצועי ההסקה משתפרים וניתן אולי להעריך יכולת reasoning גם בלי להסתמך רק על בנצ'מרקים חיצוניים. עבור עסקים בישראל זה חשוב בעיקר בבחירת מודלים לתהליכים רגישים כמו WhatsApp, CRM ואוטומציות N8N, שבהם עקביות לוגית שווה כסף, זמן וסיכון תפעולי.

**MED-COPILOT הוא דוגמה חזקה למערכת AI שלא מסתפקת בניסוח משכנע, אלא מעגנת תשובות בהנחיות ובמקרים דומים.** לפי המאמר, המערכת משלבת GraphRAG על בסיס WHO ו-NICE עם מאגר של 36,000 תיקים, כדי לשפר נאמנות ודיוק בהסקה קלינית לעומת LLMs רגילים ו-RAG סטנדרטי. עבור עסקים בישראל, הלקח רחב בהרבה מרפואה: אם אתם רוצים AI שאפשר לסמוך עליו, צריך לחבר אותו למסמכים, ל-CRM, ל-WhatsApp ולמאגרי מקרים קודמים. זה רלוונטי במיוחד למרפאות, משרדי עורכי דין, סוכני ביטוח וחברות שירות שפועלים תחת רגולציה ומנהלים תהליכים מרובי מסמכים.

**Latent Context Compilation הוא מנגנון לדחיסת הקשר ארוך במודלי שפה לזיכרון נייד וקצר, בלי לשנות את המודל עצמו.** לפי המאמר, השיטה הראתה על Llama-3.1-8B שמירה על פרטים ויכולות הסקה גם בדחיסה של פי 16. עבור עסקים בישראל, המשמעות היא פוטנציאל להפעיל סוכנים מבוססי בינה מלאכותית עם פחות טוקנים, עלויות נמוכות יותר ופריסה פשוטה יותר בסביבה מרובת משתמשים. זה רלוונטי במיוחד למשרדי עורכי דין, סוכני ביטוח, מרפאות וחנויות אונליין שמנהלים היסטוריה ארוכה של מסמכים ושיחות. השאלה המעשית אינה רק איכות המודל, אלא איך לחבר זיכרון דחוס ל-WhatsApp, ל-CRM ול-N8N בלי לפגוע בפרטיות או במהירות התגובה.

**אימות פתרונות מתמטיים של LLM הוא מעבר מבדיקת תשובה סופית לבדיקת דרך הפתרון עצמה.** זה הרעיון המרכזי במחקר חדש שפורסם ב-arXiv ומציע צינור עבודה עם Lean 4, שלושה סוכני AI ויכולת לאמת פתרונות גם באמצעות מודלים קטנים של עד 8B פרמטרים. עבור עסקים בישראל, המשמעות רחבה יותר ממתמטיקה: כל תהליך שבו AI מקבל החלטה — מתמחור ועד בדיקת זכאות — צריך להיבדק לפי שלבי ההסקה, לא רק לפי התוצאה. השילוב בין WhatsApp Business API, Zoho CRM, N8N וסוכני AI מאפשר לבנות תהליכים עם בקרה, תיעוד ועצירה אנושית בנקודות רגישות.