Guide

Building a Voice Travel Concierge with Bedrock AgentCore & Nova Sonic

An AWS guide presents an architecture based on Bedrock AgentCore, the Nova 2.5 Sonic model, and the MCP protocol

4 min read
עב
Building a Voice Travel Concierge with Bedrock AgentCore & Nova Sonic
Based on original reporting byAWS Machine Learning ↗Translated and summarized by our AI-assisted news systemHow we work

Executive summary

What to know

  1. The solution is based on Amazon Bedrock AgentCore, the Nova 2.5 Sonic model, and Amazon Bedrock Knowledge Bases.

  2. The connection between the agent and backend services is handled via the Model Context Protocol (MCP) to maintain loose coupling.

  3. The architecture separates the front end, AI agent, and backend services into three distinct layers, and is deployed using AWS CDK.

  4. Voice interaction occurs in real time over a direct WebSocket connection using 16 kHz PCM format.

In a technical post published on the AWS blog, Ravi Kumar presented an architecture for building a voice travel concierge for airline applications. The solution is built on three managed services: Amazon Bedrock AgentCore, which serves as a platform for building, deploying, and operating AI agents in a secure environment; Amazon Nova Sonic on Bedrock, a speech-to-speech model for real-time voice; and Amazon Bedrock Knowledge Bases, a managed RAG service for grounding responses in policy documents. The concierge allows travelers to carry out tasks such as changing a seat, checking delays, updating meal preferences, inquiring about policies, and escalating to a human agent upon request, while integrating alongside existing screens in the application.

System Architecture and Layer Separation

The presented architecture separates the front end, the AI agent, and the backend services into distinct layers, enabling each component to be developed and scaled independently. To link the agent to backend services, the architecture uses the Model Context Protocol (MCP), an open standard for standardized message passing that maintains loose coupling.

The solution deploys several AWS services:

  1. Amazon Cognito – Handles user authentication and provides temporary AWS credentials for signed API access.
  2. Amazon Bedrock AgentCore runtime – Hosts the agent with microVM-level isolation for each session.
  3. Amazon Bedrock AgentCore Gateway – Exposes backend endpoints as discoverable MCP tools.
  4. Amazon API Gateway – Publishes the backend as REST endpoints with AWS Identity and Access Management (IAM) authorization.
  5. AWS Lambda – Runs business logic for itineraries, seat maps, passenger updates, flight status, loyalty programs, policy lookups, and escalations.
  6. Amazon DynamoDB – Stores customer profiles, bookings, passengers, seat maps, purchase history, preferences, conversation transcripts, and flight data.
  7. Amazon Bedrock Knowledge Bases – Answers policy questions by grounding responses in airline documents.
  8. Amazon Simple Email Service (SES) – Sends email notifications.
  9. AWS Amplify – Hosts the React front end of the application.

The infrastructure is split into four sections in AWS CDK: Section A includes five CDK stacks for the backend infrastructure; Section B includes one stack to create the AgentCore Gateway with the MCP protocol; Section C includes two stacks to provision the runtime infrastructure, including the use of Amazon ECR for the container image, Amazon S3 for source code uploads, and AWS CodeBuild to produce an ARM64 Docker image; and Section D includes a stack for deploying the React application on AWS Amplify.

User Request Flow and WebSocket Connection

The interaction flow begins when the user opens the web application on AWS Amplify and enters login credentials. Amazon Cognito authenticates the request and returns JWT tokens and temporary AWS credentials. Subsequently, the user interface opens a SigV4-signed WebSocket connection directly to Amazon Bedrock AgentCore.

The runtime validates the token against Cognito and initializes Amazon Nova 2.5 Sonic. When the user speaks, audio is streamed in 16 kHz PCM format over the WebSocket. The Nova 2.5 Sonic model processes the speech and triggers tool calls. The agent invokes the AgentCore Gateway using MCP to retrieve flight data or perform actions, and the Gateway translates the calls into REST API requests forwarded to API Gateway and Lambda functions. Data is retrieved from DynamoDB, and Nova 2.5 Sonic generates a voice response streamed back to the user over the WebSocket connection.

Voice Processing Capabilities with Amazon Nova 2.5 Sonic

The solution utilizes Amazon Nova 2.5 Sonic, a speech-to-speech model featuring real-time reasoning capabilities. The model provides speech recognition across a variety of accents, robustness against background noise, spoken responses that adapt to the passenger's tone of voice, and low-latency bidirectional streaming.

In addition, the system includes asynchronous tool calling in parallel without pausing the conversation, latency masking through the generation of interim spoken responses while awaiting results, barge-in capability, natural turn-taking management, and context retention across multiple turns. The agent is configured to follow a confirm-before-write pattern, requiring traveler confirmation prior to executing changes, and reads flight numbers and confirmation codes character by character.

Answering Policy Questions and Escalation to a Live Agent

For inquiries regarding baggage, change fees, pet travel, and loyalty terms, the agent connects to Amazon Bedrock Knowledge Bases through a dedicated connector on the AgentCore Gateway. Policy documents are uploaded to Amazon S3, and the service manages embedding, chunking, indexing, storage in Amazon S3 Vectors, and retrieval. A Smart Parsing mechanism prepares PDF files so that tables and complex layouts are retrieved accurately.

When a user requests to speak with a human agent, or when the agent cannot fulfill the request, the EscalateToAgent tool is triggered after receiving user confirmation. A Lambda function logs the escalation in DynamoDB and returns a reference number and estimated wait time. The Amplify interface then initiates dialing to the configured support number from the user's device.

Prerequisites and Deployment

Deployment is performed using a single AWS CDK script. Prerequisites include an AWS account, access to the Amazon Nova 2.5 Sonic model in the deployment region, Node.js version 20.x or later, Python version 3.12 or later, AWS CLI version 2.x, and AWS CDK CLI version 2.x. System monitoring is handled via Amazon CloudWatch, and encryption of data at rest is managed using AWS KMS. Resource teardown is executed in reverse order of deployment using a dedicated script.

Was this useful for your business?

Questions & Answers

FAQ

This article was produced by our AI-assisted system through translation, summarization, and automated quality controls based on original reporting by AWS Machine Learning. Read about our editorial process. Link to the original source.

Get useful AI updates by email

A concise digest from our news desk.

More from AWS Machine Learning

All articles from AWS Machine Learning
AWS Quick מציגה תהליכים מורחבים, ממשק רשת מעודכן ותיאום סוכנים
מוצר חדש
4 דקות
מ־AWS Machine Learning

AWS Quick מציגה תהליכים מורחבים, ממשק רשת מעודכן ותיאום סוכנים

חברת AWS הכריזה על עדכונים לסביבת העבודה AWS Quick. העדכונים מאפשרים לבנות ולשפר תהליכים עסקיים (Flows) באמצעות שיחה בצ'אט, כולל שילוב שלבים דטרמיניסטיים, תהליכים ממושכים ותמיכה בנפחי נתונים גדולים. אפליקציית הרשת המעודכנת מוסיפה תדריך יומי, מסך בית מתועדף והמשך ריצה של סוכנים ברקע גם לאחר סגירת הדפדפן. בנוסף, המערכת תומכת כעת בתזמור של מספר סוכנים במקביל דרך הנחיה בודדת, מוסיפה מחברים חדשים ל-Meta ads ו-Amplitude, וכוללת בקרות אבטחה והרשאות לפי קבוצות עבור תוכניות Professional ו-Enterprise. התכונות זמינות בכל האזורים שבהם השירות פועל.

קרא עוד
שכפול קול ב-Amazon Polly: זמינות במתכונת שחרור מבוקר
מוצר חדש
4 דקות
מ־AWS Machine Learning

שכפול קול ב-Amazon Polly: זמינות במתכונת שחרור מבוקר

שירות Amazon Polly השיק יכולת שכפול קול (voice cloning) הזמינה כעת במסגרת שחרור מבוקר (gated release). היכולת מאפשרת להפיק קול מותאם אישית מתוך מספר דקות של הקלטות של דובר שהסכים לכך, על גבי המנוע היוצר (generative engine) של השירות. השירות תומך בשבע שפות: אנגלית, ספרדית, גרמנית, צרפתית, איטלקית, פורטוגזית והינדי, כאשר כל קול פועל בשפה שבה הוקלט. ההקלטות אינן נשמרות לאחר יצירת הקול ואינן משמשות לאימון מודלים, והגישה לקול מוגבלת לחשבון שיצר אותו עם תמיכה בהצפנת AWS KMS וניהול הרשאות ב-IAM. יצירת הקול ניתנת ללא עלות, והשימוש בסינתזה מחויב לפי צריכה.

קרא עוד
תמיכה ב-Private CA ב-Amazon Bedrock AgentCore Identity
מדריך
5 דקות
מ־AWS Machine Learning

תמיכה ב-Private CA ב-Amazon Bedrock AgentCore Identity

בפוסט שפורסם בבלוג של AWS, הוכרזה תמיכה בתעודות רשות אישורים פרטית (Private CA) במסגרת AgentCore Identity, יכולת של Amazon Bedrock AgentCore. יכולת זו מאפשרת לסוכני בינה מלאכותית להתחבר לספקי זהות פרטיים כמו Keycloak המאוחסנים ברשת פנימית, תוך מתן אמון ב-CA הארגוני. התעודה בפורמט PEM נשמרת ב-Secrets Manager או ב-S3 ומאומתת מול נקודות הקצה של ה-IdP דרך Amazon VPC Lattice. הפוסט מפרט את אופן ההגדרה, שלבי הניטור ב-CloudWatch ותהליך ביצוע רוטציה ללא השבתה.

קרא עוד
ניהול עלויות מקצה לקצה ב-Amazon Bedrock: מדריך לצוותי FinOps
מדריך
5 דקות
מ־AWS Machine Learning

ניהול עלויות מקצה לקצה ב-Amazon Bedrock: מדריך לצוותי FinOps

בפוסט של מומחי AWS מוצג מודל תפעולי בן חמישה שלבים לניהול עלויות ב-Amazon Bedrock, המיועד לצוותי FinOps והנדסת פלטפורמה. המודל מתמקד בעומסי עבודה של סוכני בינה מלאכותית (agentic workloads), שבהם צריכת הטוקנים מושפעת מרמת האוטונומיה וגודל ההקשר. חמשת השלבים כוללים: שיוך עלויות לכל ישות וצוות באמצעות תגי IAM ודוחות CUR 2.0; יצירת יכולת תצפית ובקרה באמצעות רישום יומני הסקה ב-CloudWatch וב-S3 לצד מטא-דאטה מובנית; אכיפת תקציבים בשלוש רמות (התראות, שלילת הרשאות ב-IAM או חסימה סינכרונית בשער); מיטוב ברירות מחדל באמצעות שמירה במטמון (prompt caching) וניתוב מודלים חכם; והפעלת סקירת ביצועים משותפת מבוססת מדדים ברורים.

קרא עוד

More articles you might like

All articles
תזמור סוכני בינה מלאכותית: המדריך לניהול כוח העבודה העסקי החדש
מדריך
5 דקות
מ־Salesforce Blog

תזמור סוכני בינה מלאכותית: המדריך לניהול כוח העבודה העסקי החדש

מדריך שפורסם על ידי סיילספורס (Salesforce) מפרט כיצד פועל תזמור של סוכני בינה מלאכותית (AI orchestration) ומה תפקידו של מתזמר הבינה המלאכותית בעסקים. לפי המדריך, תזמור עוסק בתיאום בין סוכנים מרובים כך שכל שלב מנותב לסוכן המתאים ביותר, בעוד אדמיניסטרציית בינה מלאכותית מתמקדת בתחזוקה, הרשאות ובדיקת איכות הנתונים. המדריך מציג מחזור עבודה קבוע הכולל קליטה, ניתוב, פעולה וסקירה אנושית, ומדגיש כי מחקר של Slack מצא ש-41% מהזמן בעבודה אובד על משימות חזרתיות. כדי לתזמר סוכנים אין צורך בידע בכתיבת קוד, אלא בשיקול דעת, בניסוח הנחיות ברורות ובשימוש במערכת CRM כבסיס נתונים משותף המונע ניחושים ושומר על רצף המידע.

קרא עוד
תמיכה ב-Private CA ב-Amazon Bedrock AgentCore Identity
מדריך
5 דקות
מ־AWS Machine Learning

תמיכה ב-Private CA ב-Amazon Bedrock AgentCore Identity

בפוסט שפורסם בבלוג של AWS, הוכרזה תמיכה בתעודות רשות אישורים פרטית (Private CA) במסגרת AgentCore Identity, יכולת של Amazon Bedrock AgentCore. יכולת זו מאפשרת לסוכני בינה מלאכותית להתחבר לספקי זהות פרטיים כמו Keycloak המאוחסנים ברשת פנימית, תוך מתן אמון ב-CA הארגוני. התעודה בפורמט PEM נשמרת ב-Secrets Manager או ב-S3 ומאומתת מול נקודות הקצה של ה-IdP דרך Amazon VPC Lattice. הפוסט מפרט את אופן ההגדרה, שלבי הניטור ב-CloudWatch ותהליך ביצוע רוטציה ללא השבתה.

קרא עוד
אוטומציה של טופסי יצירת קשר באמצעות עוזרי AI ו-Zapier
מדריך
4 דקות
מ־Zapier

אוטומציה של טופסי יצירת קשר באמצעות עוזרי AI ו-Zapier

במאמר שפורסם בבלוג של Zapier מוסבר כיצד ניתן לחבר טופסי יצירת קשר ליישומים עסקיים באמצעות עוזרי בינה מלאכותית. חיבור Zapier לעוזר AI דוגמת Claude, ChatGPT או Cursor, כשרת MCP או כמחבר, מאפשר למשתמש לתאר בשפה פשוטה את הפעולות הנדרשות עבור כל הגשת טופס. הסוכן בונה תהליך עבודה אוטומטי (Zap) המתחבר ליותר מ-9,000 אפליקציות, כגון HubSpot, Salesforce ו-Slack. האוטומציה פועלת ברגע קבלת הטופס, משתמשת בבינה מלאכותית רק לשלבים הדורשים שיקול דעת, ושומרת על פרטי ההתחברות ומפתחות ה-API מחוץ לצ'אט.

קרא עוד
מדריך סיילספורס לפיתוח סוכני AI, אפליקציות וארכיטקטורת Headless
מדריך
4 דקות
מ־Salesforce Blog

מדריך סיילספורס לפיתוח סוכני AI, אפליקציות וארכיטקטורת Headless

לפי מדריך שפרסמה סיילספורס, ארגונים נדרשים להתאים את מחזורי הפיתוח לעידן הבינה המלאכותית ולפתח סוכנים ואפליקציות מבלי להתפשר על אבטחה ואיכות. המדריך מתווה תהליך עבודה מודולרי בן שישה שלבים הכולל תכנון, בנייה, בדיקה, פריסה, ניטור והרחבה, תוך שילוב עקבי של משילות ואבטחה לכל אורך הדרך. במסגרת הבנייה מוצגים כלי פיתוח שונים, בהם Vibe coding, כלי Low-code ו-No-code כגון Builder Central, לצד ניתוב מחדש של קידוד מסורתי למשימות מותאמות אישית. שלבי הבדיקה והפריסה נשענים על סביבות Sandbox, מיסוך נתונים וכלי DevOps מובנים, בעוד ששכבת Headless ופרוטוקולי MCP מאפשרים לחבר את הסוכנים למערכות ארגוניות ולנתונים מנוהלים.

קרא עוד