Hugging Face и Amazon SageMaker Studio: интеграция в один клик

Компании Hugging Face и Amazon SageMaker Studio представили интеграцию, позволяющую разработчикам переходить от просмотра моделей на Hugging Face к экспериментам и развертыванию в SageMaker Studio одним кликом. Ранее для начала работы требовалась ручная настройка: необходимо было открыть консоль AWS, создать домен SageMaker, настроить разрешения IAM, а иногда и запрашивать квоту на GPU. Новая функциональность устраняет эти шаги.

Интеграция включает три ключевых улучшения. Во-первых, на страницах поддерживаемых моделей Hugging Face появляются кнопки «Customize on SageMaker ИИ» и «Deploy on SageMaker ИИ», которые ведут непосредственно в Studio с предварительно выбранной моделью. Во-вторых, новые окружения Studio автоматически получают предварительно настроенные разрешения, включающие управляемую политику AmazonSageMakerModelCustomizationCoreAccess. Это покрывает такие методы тонкой настройки, как supervised fine-tuning (SFT), direct preference optimization (DPO), reinforcement learning with verifiable rewards (RLVR) и reinforcement learning from ИИ feedback (RLAIF). В-третьих, при выборе экземпляра для развертывания Studio показывает доступность GPU квот (например, для типов G5 и G6) прямо в выпадающем списке, избавляя от необходимости переходить в раздел Service Quotas.

«Наши клиенты давно ждали возможности переходить от открытой модели на Hugging Face напрямую в SageMaker Studio без дополнительных настроек, — отметил Марк МакКуэйд, основатель и CEO Arcee ИИ. — Это именно тот опыт, которого не хватало открытым моделям». Для существующих окружений Studio, у которых ещё нет необходимых разрешений, система покажет сообщения с прямыми ссылками на документацию по добавлению политик.