חיפוש בחדשות

בפוסט של ארכיטקט הפתרונות דניאל אביב מ-AWS, מוסבר כיצד מנגנון ה-Prompt Caching ב-Amazon Bedrock מפחית עד 90% מעלויות טוקני הקלט על פגיעות במטמון ומקצר את זמן התגובה לטוקן הראשון (TTFT). המאמר סוקר שישה תרחישי יישום באמצעות ה-Converse API: שמירת מסמכים, שמירת פרומפט מערכת, שמירת הגדרות כלים לסוכנים, שילוב זמני חיים שונים (Mixed TTL), בידוד דיירים במערכות מרובות משתמשים באמצעות תחילית SHA-256, ואינטגרציה עם ספריית LangChain. מודלי Anthropic Claude Sonnet 4.5 ו-4.6 דורשים סף מינימלי של 1,024 טוקנים להפעלת המטמון.

**Gemini Enterprise Agent Platform היא פלטפורמה לבנייה וניהול של סוכני AI בקנה מידה ארגוני, וגוגל מייעדת אותה בעיקר לצוותי IT ולא למשתמשים עסקיים כלליים.** זה המסר המרכזי מהכרזת Google Cloud Next: סוכנים ארגוניים דורשים קודם כול הרשאות, אבטחה וניהול, ורק אחר כך חוויית שימוש. לפי הדיווח, גוגל מציבה את המוצר מול Amazon Bedrock AgentCore ו-Microsoft Foundry, ותומכת גם במודלים של Anthropic Claude. עבור עסקים בישראל, המשמעות היא שכדאי לבחון ארכיטקטורה מלאה — AI Agents, WhatsApp Business API, Zoho CRM ו-N8N — ולא רק לבחור מודל. מי שיבנה פיילוט מסודר סביב תהליך אחד, עם בקרה והרשאות, יתקדם מהר יותר ועם פחות סיכון.