Abnormal ИИ, сервис поведенческой безопасности, чьи решения защищают более 25% компаний из Fortune 500, перевела часть своей системы обнаружения угроз в электронной почте на агентов с исполнением кода. Для этого компания задействовала Amazon Bedrock AgentCore Code Interpreter — управляемый серверный runtime, который позволяет агентам динамически запускать код. Системы работают в продакшене и обрабатывают миллиарды сообщений в день, выполняя код в том же масштабе, чтобы блокировать угрозы до попадания письма в ящик.

Amazon Bedrock AgentCore Code Interpreter — это полностью управляемый сервис, который даёт агенту изолированную среду для выполнения команд, загрузки файлов и получения результатов. Сессии работают в эфемерных MicroVM с настраиваемым временем жизни: по умолчанию 15 минут, максимум 8 часов для длительных задач. Изоляция обеспечивается на уровне операционной системы хоста, что предотвращает случайную утечку данных между сессиями. Сервис поддерживает сетевой режим VPC или публичный доступ в интернет, работу с файлами до 100 МБ через API или через Amazon S3 для больших наборов данных. Предустановлены окружения Python и Node.js с библиотеками для визуализации, статистики и обработки данных. Логи отправляются в Amazon CloudWatch и AWS CloudTrail. Ключевая особенность — Code Interpreter предоставляется как API и не навязывает агенту конкретный рабочий процесс: он просто даёт среду, где агент может выполнять команды. Для команд с уже существующей агентной инфраструктурой такая plug-and-play-интеграция упрощает внедрение.

УровеньМетодОбъём в день
Tier 1Эвристики, лёгкие классификаторы (логистические регрессии)Миллиарды
Tier 2Глубокие нейросети и ML-моделиМиллионы
Tier 3Inline-агенты с Code InterpreterДесятки тысяч

Зачем агентам вообще нужна вычислительная песочница? Большие языковые модели хорошо справляются с рассуждениями и семантикой, но многие реальные операции не сводятся к семантике. Простой вопрос «сколько фишинговых писем мы обнаружили за последний час?» требует вычислений, а не генерации текста. Обработка и визуализация данных — преобразование сырых данных в графики, PDF или структурированные отчёты — тоже выходит за рамки языковых возможностей. Верификация кода: запуск юнит-тестов, линтинга и интеграционных тестов для проверки сгенерированного агентом кода. Сочетание LLM с Code Interpreter расширяет возможности агента за пределы того, что даёт одно рассуждение. «Практически любому агенту, пишет он код или нет, нужна песочница Code Interpreter, которая позволяет ему обрабатывать данные и приходить к ответам», — говорит Шриву Шанкар, вице-президент по стратегии ИИ в Abnormal ИИ.

Agent invoking the Amazon Bedrock AgentCore Code Interpreter API to provision an ephemeral MicroVM sandbox for code execution and file retrieval
Agent invoking the Amazon Bedrock AgentCore Code Interpreter API to provision an ephemeral MicroVM sandbox for code execution and file retrieval · Источник: AWS Machine Learning Blog

Архитектура Abnormal ИИ построена на трёхуровневой детекции. Tier 1 обрабатывает миллиарды сообщений в день с помощью небольших моделей, эвристических правил и лёгких классификаторов (логистических регрессий). На таком масштабе запускать большие модели дорого и не нужно — большинство писем классифицируются без глубокого анализа. Tier 2 принимает миллионы сообщений в день, в которых Tier 1 не уверен, и прогоняет их через глубокие нейросети и ML-модели для более детального анализа поведенческих сигналов. Tier 3 обрабатывает десятки тысяч самых сложных случаев в день — те, что обычно требуют участия человека-аналитика. Эти inline-агенты получают данные threat intelligence и используют песочницу для анализа, динамически пишут скрипты, а затем оценивают результаты. Именно на этом уровне и применяется Code Interpreter.

Подход Abnormal ИИ отражает более широкую тенденцию: ИИ-агенты всё чаще используются не только для генерации кода, но и для выполнения задач, требующих вычислений. Сегодня 80% изменений кода в компании создаются с участием агента в той или иной форме, а 40% — полностью агентами без участия человека. Использование Code Interpreter для обнаружения угроз — это тот же ИИ-native подход, применённый к продакшен-среде. Для команд, которые разворачивают агентов в масштабе, опыт Abnormal ИИ показывает: изолированная песочница с управляемым жизненным циклом и гибкой сетевой конфигурацией становится инфраструктурным стандартом, а не экспериментом.