Компания nOps, специализирующаяся на оптимизации облачных расходов, перевела свою FinOps-аналитику на Amazon Bedrock AgentCore. Это позволило ускорить разработку новых функций агентов на 75% и снизить эксплуатационную сложность. Платформа nOps управляет облачными расходами клиентов на сумму более 4 миллиардов долларов, помогая оптимизировать обязательства по Reserved Instances и AWS Savings Plans в AWS, Google Cloud Platform и Microsoft Azure.

Amazon Bedrock AgentCore — это сервис для создания, подключения и оптимизации агентов в масштабе, поддерживающий любые фреймворки и модели. nOps использовала его для создания агента Clara, который автоматизирует задачи FinOps, такие как анализ затрат и управление обязательствами. Ранее Clara работала на базе Kubernetes, Amazon Bedrock, LangChain/LangGraph и веб-API, что приводило к задержкам и несоответствию данных. Новая архитектура включает Databricks Lakehouse Metric Views для семантического слоя, Databricks Lakebase для хранения состояния и Amazon DynamoDB для асинхронных задач.

Ключевое изменение — использование единого агента на основе Strands вместо мультиагентной маршрутизации. Это упростило оркестрацию и позволило разработчикам сосредоточиться на доменной логике, а не на инфраструктуре. Пользователи могут вручную выполнять те же рабочие процессы, что и агент, что повышает прозрачность и контроль.

Платформа nOps управляет облачными расходами клиентов на сумму более $4 млрд.

Architecture of the nOps Clara solution: a Vercel web application, the Amazon Bedrock AgentCore agent runtime, a Databricks Lakehouse data layer, and an async workflow layer using Amazon DynamoDB, Amazon SNS, Amazon SQS, and Amazon API Gate
Architecture of the nOps Clara solution: a Vercel web application, the Amazon Bedrock AgentCore agent runtime, a Databricks Lakehouse data layer, and an async workflow layer using Amazon DynamoDB, Amazon SNS, Amazon SQS, and Amazon API Gate · Источник: AWS Machine Learning Blog

Переход на AgentCore также улучшил качество ответов и снизил задержки. По словам Джордана Стейна, ранее инфраструктура не была предназначена для аналитических агентов, что замедляло итерации и приводило к неточностям. Теперь nOps планирует расширять возможности Clara, сохраняя гибкость в выборе моделей и фреймворков.

Для отрасли это пример того, как специализированные сервисы для агентов могут заменить самодельные оркестрации, снижая сложность и ускоряя вывод продуктов на рынок. nOps также использует Vercel для веб-интерфейса и Server-Sent Events для потоковой передачи данных, что обеспечивает отзывчивость интерфейса.