6 июля 2026 года «Группа Астра» объявила о выходе платформы «Боцман ИИ» для запуска языковых и других моделей искусственного интеллекта внутри защищённого контура компании. Решение снимает главное противоречие корпоративной ИИ-трансформации: использовать мощные модели, сохраняя полный контроль над данными. Платформа построена на базе Kubernetes-оркестратора «Боцман», входящего в состав Astra Dev Platform, и ориентирована на компании, эксплуатирующие приложения в изолированных или регулируемых инфраструктурах.
«Боцман ИИ» автоматизирует рутинные операции по развёртыванию моделей. Платформенная команда описывает модель через стандартный Kubernetes-ресурс, после чего система самостоятельно подготавливает хранилище весов и запускает runtime с нужным движком — vLLM, Ollama, SGLang или FasterWhisper. Модель публикуется через единый шлюз, а разработчики получают привычный OpenAI-совместимый API — переписывать код не нужно, достаточно сменить адрес сервиса. Обновления моделей происходят без окна недоступности, что критично для дорогостоящей GPU-инфраструктуры. Платформа также включает автоматическое масштабирование под нагрузку, систему биллинга и управление API-ключами с контролем бюджетов, что позволяет прозрачно распределять ресурсы между командами.
Установка выполняется через «Боцман Apps & Marketplace» в виде Helm-чарта. Михаил Кобик, технический директор платформы «Боцман» (входит в «Группу Астра»), отметил: «Мы даём российским компаниям возможность использовать современные языковые модели так же удобно, как публичные облачные сервисы, но при этом полностью внутри собственного контура — с сохранением суверенитета над данными, предсказуемыми затратами и без привязки к зарубежным провайдерам». Решение особенно актуально в условиях регуляторных ограничений и требований информационной безопасности, когда передача данных во внешние сервисы исключена.
Поддерживает движки vLLM, Ollama, SGLang и FasterWhisper.
