По мере усложнения моделей ИИ разрыв между пиковой производительностью оборудования и реальными показателями в приложениях растёт. Традиционная оптимизация через ручную разработку низкоуровневых ядер требует глубоких знаний архитектуры ускорителей и многократных итераций. AWS представила Neuron Agentic Development — набор из пяти специализированных ИИ-агентов и навыков, автоматизирующих создание, отладку и профилирование ядер для ускорителей Trainium и Inferentia.
Neuron Agentic Development включает пять навыков, следующих естественному циклу разработки: авторинг, отладка, профилирование, анализ профилей и документация. Навык авторинга (neuron-nki-writing) переводит код PyTorch, NumPy или описания на естественном языке в корректный NKI-код, учитывая аппаратные ограничения, например размерность тайлов и буферов. Навык отладки (neuron-nki-debugging) предлагает систематический процесс разрешения ошибок компиляции и выполнения на Trainium и Inferentia, включая каталог всех 28 кодов ошибок NCC. Навыки профилирования (neuron-nki-profiling и neuron-nki-profile-querying) захватывают трассы выполнения, извлекают метрики и выполняют SQL-запросы для выявления узких мест и привязки их к конкретным строкам исходного кода. Навык документации (neuron-nki-docs) предоставляет API-сигнатуры, туториалы и описания ошибок на протяжении всего процесса.
| Навык | Назначение |
|---|---|
| neuron-nki-writing | Автоматическое создание корректного NKI-кода из PyTorch, NumPy или описания на естественном языке |
| neuron-nki-debugging | Систематическое разрешение ошибок компиляции и выполнения с использованием каталога ошибок |
| neuron-nki-profiling | Захват и профилирование выполнения ядра на оборудовании, извлечение метрик |
| neuron-nki-profile-querying | Анализ профилей через SQL-запросы для выявления узких мест |
| neuron-nki-docs | Предоставление документации по API, туториалов и архитектурных руководств |
Навыки можно вызывать по отдельности или объединять в автоматизированные рабочие процессы с помощью агента neuron-nki-agent, который самостоятельно выбирает нужную последовательность действий на основе запроса. Для использования навыков требуется экземпляр Amazon EC2 на базе Trainium. Решение интегрировано в VS Code, Cursor и Kiro: навыки добавляются в директории .kiro/skills или .claude/skills. Neuron Agentic Development снижает порог входа в оптимизацию ядер: разработчики, знакомые с другими архитектурами, могут быстро освоить Trainium, а команды сокращают время от идеи до аппаратно-оптимизированной реализации.
Навыки могут использоваться по отдельности или объединяться в автоматизированные рабочие процессы с помощью агента neuron-nki-agent.