На Microsoft Build 2026 компания Microsoft представила Foundry Managed Compute — сервис для развёртывания open-weight моделей из каталога Hugging Face в корпоративной среде. Решение входит в платформу Microsoft Foundry, предназначенную для создания и эксплуатации агентных ИИ-приложений. Managed Compute стал третьим вариантом развёртывания после pay-per-token и provisioned throughput, ориентированным на open-source и кастомные модели.
Foundry Managed Compute автоматизирует инфраструктурные задачи: веса моделей предварительно загружаются в Azure, рантаймы (vLLM, SGLang, TensorRT-LLM, NIM, TEI, llama.cpp) собираются и сканируются Microsoft, а GPU-топология подбирается автоматически на основе параметров модели. Разработчику достаточно указать количество параметров, длину контекста и приоритет (задержка или пропускная способность), а всё остальное берёт на себя платформа. Единый API, SDK на Python, C#, JavaScript и Java, а также сквозная наблюдаемость и безопасность (RBAC, приватные сети, Azure Policy) позволяют встраивать open-source модели в корпоративные рабочие процессы наравне с проприетарными.
| Вариант | Описание | Назначение |
|---|---|---|
| Pay-per-token | Оплата за каждый токен | Низкий порог входа для экспериментов |
| Provisioned throughput | Фиксированная пропускная способность | Предсказуемая производительность для production нагрузок на frontier моделях |
| Managed Compute | Управляемая GPU-платформа как сервис | Развёртывание open-source и кастомных моделей с автоматическим управлением инфраструктурой |
Hugging Face насчитывает 15 млн разработчиков, 400 тыс. организаций и более 3 млн открытых моделей, включая новейшие в области агентного кодирования, сегментации видео и речи. Открытые модели по многим бенчмаркам догнали закрытые, а их главные преимущества — возможность тонкой настройки (fine-tuning, LoRA), контроль над инфраструктурой, гибкое управление затратами и версионирование. Однако самостоятельное развёртывание требует решения множества операционных задач: проверка лицензий, сборка образов, патчи CVE, выбор GPU. Hugging Face как сообщество не предоставляет корпоративной платформы обслуживания — Foundry Managed Compute закрывает этот пробел, предлагая managed GPU PaaS с автоматическим обновлением рантаймов и безопасностью на уровне предприятия. Ограничение: сервис пока доступен Foundry, для использования требуется подписка Azure.
Платформа Foundry предоставляет единый API для десятков моделей от Microsoft, OpenAI, Anthropic, Meta и других.
