Amazon Bedrock AgentCore Observability, capability платформы Amazon Bedrock AgentCore, расширяет поддержку мониторинга ИИ-агентов, работающих за пределами AWS. Ранее инструмент нативно поддерживал только агентов, развернутых на runtime AgentCore в облаке AWS. Теперь, как описано в блоге AWS Machine Learning Blog, появилась возможность настроить observability для агентов, запущенных on-premises или в других облачных провайдерах, таких как Google Cloud Platform (GCP) и Microsoft Azure.
Решение основано на AWS Distro for OpenTelemetry (ADOT), который работает в процессе с приложением агента. ADOT автоматически инструментирует агентный фреймворк, захватывает семантические конвенции генеративного ИИ и экспортирует телеметрию напрямую в Amazon CloudWatch OpenTelemetry Protocol (OTLP) endpoint, используя аутентификацию SigV4 с учетными данными AWS Identity and Access Management (IAM). Это позволяет отправлять трассы, метрики и логи в дашборд AgentCore Observability, обеспечивая централизованное наблюдение за агентами независимо от их местоположения.
| Aspect | Non-AWS Runtime | AgentCore runtime |
|---|---|---|
| Telemetry supported | ADOT – manual OTEL variables required | ADOT – Automatic in-built OTEL variables |
| Credential management | IAM access key/secret or IAM Roles Anywhere | Automatic (IAM role) |
| Best for | Agents on-premises, GCP, Azure, or a non-AWS environment | Agents deployed on AWS with AgentCore |
Для настройки требуются три ключевых компонента: ADOT автоинструментирование, IAM-учетные данные и переменные окружения с настройками OpenTelemetry. В блоге приведены предварительные требования: учетная запись AWS с доступом к моделям Amazon Bedrock (в примере используется Claude Haiku), включенный CloudWatch Transaction Search, Python 3.10 или новее, а также IAM-пользователь с правами на bedrock:InvokeModel, logs:CreateLogGroup, logs:CreateLogStream, logs:PutLogEvents, xray:PutTraceSegments, xray:PutTelemetryRecords, xray:GetSamplingRules, xray:GetSamplingTargets и cloudwatch:PutMetricData. Также требуется исходящий HTTPS-доступ к AWS endpoints.
Observability считается фундаментальным столпом ответственного ИИ. С помощью AgentCore Observability можно отслеживать цепочки рассуждений агента, вызовы инструментов и выходные данные моделей. Это позволяет выявлять галлюцинации, контролировать вредные или не по теме ответы, отслеживать использование токенов для управления затратами и аудировать поведение агентов в разных средах. Особенно критично это для агентов, работающих вне AWS, где проблемные выходные данные могут остаться незамеченными без централизованного наблюдения.
Процесс настройки включает включение CloudWatch Transaction Search (одноразовая операция через AWS CLI), установку ADOT и настройку переменных окружения. В блоге подробно описан процесс автоинструментирования: команда opentelemetry-instrument внедряет ADOT в Python runtime, автоматически патча boto3 для вызовов Amazon Bedrock и фреймворк Strands для спанов рассуждений агента. Это упрощает интеграцию для разработчиков, использующих популярные фреймворки, такие как LangGraph и CrewAI.
Данное обновление значимо для компаний, которые развертывают ИИ-агентов в гибридных или мультиоблачных средах. Ранее им приходилось полагаться на локальные инструменты мониторинга, которые не предоставляют такой глубины анализа, как специализированные дашборды AgentCore Observability. Теперь они могут унифицировать observability, используя единый дашборд для всех агентов, независимо от инфраструктуры.
