Amazon Bedrock объявил о поддержке кросс-регионального инференса (CRIS) для моделей GPT-5.6 от OpenAI, что расширяет их доступность до более чем 25 регионов AWS. Это означает, что разработчики, использующие Bedrock, теперь могут вызывать модели GPT-5.6 через inference profiles, которые автоматически маршрутизируют запросы в регионы с доступной вычислительной мощностью, повышая пропускную способность и устойчивость под нагрузкой.
Кросс-региональный инференс — это механизм, который позволяет запросам к модели обрабатываться не только в том регионе, где они были отправлены, но и в других регионах AWS, входящих в состав профиля. Это особенно полезно для приложений с пиковой нагрузкой, когда мощности одного региона могут быть исчерпаны. Вместо того чтобы получать отказ или задержки, запрос автоматически перенаправляется в другой регион, где есть свободные ресурсы. При этом биллинг и квоты учитываются в аккаунте пользователя независимо от того, в каком регионе фактически выполнялся запрос, что упрощает управление расходами.
| Профиль | Пример | Назначение |
|---|---|---|
| Географический | us.openai.gpt-5.6-terra | Обработка данных в пределах одной географии (например, США) |
| Глобальный | global.openai.gpt-5.6-terra | Маршрутизация в любой регион на основе ёмкости |
Для GPT-5.6 доступны два типа профилей: географические и глобальные. Географический профиль (например, us.openai.gpt-5.6-terra) ограничивает обработку данных регионами внутри определённой географии, например, только США. Это важно для компаний с требованиями к локализации данных, когда обработка должна происходить в определённых юрисдикциях. Глобальный профиль (global.openai.gpt-5.6-terra) маршрутизирует запросы в любой коммерческий регион AWS, где развёрнута модель, на основе реальной ёмкости, обеспечивая максимально широкий пул вычислительных ресурсов. Однако при использовании глобального профиля данные могут пересекать границы регионов, что не подходит для строгих требований к суверенитету данных.
CRIS использует inference profiles: географические профили (например, us.openai.gpt-5.6-terra) ограничивают обработку данных пределами географии.
Три варианта GPT-5.6 — Sol, Terra и Luna — предназначены для разных балансов между производительностью и стоимостью. Все они принимают текстовые и графические входные данные, возвращают текст, имеют контекстное окно в 1 миллион токенов и поддерживают режим рассуждений, серверный вызов инструментов и кэширование подсказок. Это делает их универсальными для широкого круга задач — от чат-ботов до анализа документов.
Запуск CRIS для GPT-5.6 — часть более широкой тенденции в облачной индустрии к повышению отказоустойчивости и масштабируемости ИИ-сервисов. Ранее Amazon Bedrock уже предлагал CRIS для других моделей, но расширение на GPT-5.6 с такими детальными настройками географии и глобального охвата даёт разработчикам больше контроля над размещением данных и производительностью. Это особенно актуально для предприятий, работающих в нескольких регионах и нуждающихся в соблюдении местных нормативных требований.
Для вызова моделей разработчики могут использовать OpenAI Responses API, OpenAI Chat Completions API или Amazon Bedrock Converse API, включая потоковую передачу через stream=True и ConverseStream. Это обеспечивает гибкость интеграции с существующими приложениями, уже использующими API OpenAI.
В целом, появление кросс-регионального инференса для GPT-5.6 на Amazon Bedrock упрощает развёртывание масштабируемых ИИ-приложений, снижая риски, связанные с ограниченной ёмкостью отдельных регионов, и предоставляя инструменты для соблюдения требований к данным.
