AWS представила аддон SageMaker ИИ Spaces для Amazon EKS, который позволяет запускать интерактивные IDE — JupyterLab и Code Editor — прямо в кластере, где выполняются пайплайны машинного обучения. Ранее data scientist'ам приходилось покидать кластер и переключаться на отдельный JupyterHub или локальный ноутбук, теряя доступ к GPU-узлам, общему хранилищу и IAM-ролям. Новый аддон устраняет этот разрыв, предоставляя управляемые среды в уже существующей инфраструктуре.

Установка и настройка аддона описаны в официальном руководстве AWS. Для работы требуются EKS-кластер версии 1.30 или новее с классическими узлами EC2 (EKS Auto Mode не поддерживается), VPC с публичными и приватными подсетями, а также ряд дополнительных компонентов: EKS Pod Identity Agent, драйвер Amazon EBS CSI, cert-manager и External DNS. После установки аддона и настройки Load Balancer Controller, TLS-сертификата и KMS-ключа, пользователь может создать первое Space и получить доступ к нему через presigned URL в браузере или через VS Code по SSH-over-SSM.

ПараметрЗначение
Время развертывания JupyterHub3–5 дней
Время запуска Space с аддоном5 минут
Повышение загрузки GPUдо 30%
Стоимость SSM advanced tier$0.00695/час за pod

Ключевое преимущество — скорость и экономия. По данным AWS, развертывание отдельного JupyterHub с GPU-доступом, хранилищем и аутентификацией обычно занимает у платформенной команды 3–5 дней. С аддоном SageMaker ИИ Spaces data scientist запускает полностью настроенное Space примерно за 5 минут. Кроме того, консолидация интерактивных и обучающих нагрузок на одном кластере позволяет эффективнее использовать GPU-узлы между задачами, что может повысить загрузку GPU до 30% по сравнению с выделенным парком ноутбуков. Это также избавляет от затрат на постоянно работающие GPU-окружения, которые могут обходиться в тысячи долларов в месяц.

Развертывание среды сокращается с 3–5 дней до 5 минут благодаря готовым конфигурациям и интеграции с IAM.

Architecture routing Route 53 and an ALB through Traefik to SageMaker Space pods on an EKS cluster, with Pod Identity, AWS KMS, and Amazon EBS storage
Architecture routing Route 53 and an ALB through Traefik to SageMaker Space pods on an EKS cluster, with Pod Identity, AWS KMS, and Amazon EBS storage · Источник: AWS Machine Learning Blog

Однако у решения есть особенности. Во-первых, аддон требует версии 0.1.4 или новее, так как более ранние версии поддерживали только Amazon SageMaker HyperPod. Во-вторых, необходимо правильно настроить теги подсетей VPC, иначе Load Balancer Controller может разместить ALB на приватных подсетях, сделав Spaces недоступными. В-третьих, использование SSM advanced-instances tier добавляет около $0.00695/час за каждый Space pod, а также взимается плата за ALB, EBS-тома и сам кластер EKS. AWS рекомендует следовать разделу Cleanup после завершения работы.

Для команд, которые уже используют Amazon EKS для обучения моделей, SageMaker ИИ Spaces — это способ упростить разработку и эксперименты, не покидая кластер. Решение также поддерживает переход на OIDC-аутентификацию через Amazon Cognito, что упрощает управление доступом для больших групп пользователей. В целом, это шаг к унификации инструментов data science и MLOps в единой среде.