OpenAI представила собственный ИИ-процессор Jalapeño

Подготовлено редакцией Malakhov AI

The Verge AI·5 часов назад·1 минИндустрия

OpenAI представила процессор Jalapeño — первый чип собственной разработки, созданный совместно с Broadcom. Он предназначен для инференса больших языковых моделей и, по заявлению Broadcom, сравним по производительности с Nvidia Blackwell и Google TPU.

Кратко

—Чип Jalapeño — это ASIC для ИИ-инференса, разработанный OpenAI в партнёрстве с Broadcom.
—По словам Broadcom, производительность Jalapeño сопоставима с Nvidia Blackwell и Google TPU.
—OpenAI планирует развернуть чипы к концу 2026 года долгосрочной вычислительной платформы.
—Собственный процессор снижает зависимость OpenAI от дефицитных GPU Nvidia.
—Microsoft, Meta и Amazon также разработали кастомные чипы для ИИ-нагрузок.

Глоссарий · 3 термина▾

ASIC: Специализированная интегральная схема, предназначенная для выполнения конкретной задачи — в данном случае инференса ИИ.
инференс: Этап работы ИИ-модели, когда она обрабатывает входные данные пользователя и выдаёт результат, в отличие от обучения на массивах данных.
производительность на ватт: Показатель энергоэффективности, измеряющий объём вычислений, выполняемых на каждый ватт потребляемой мощности.

OpenAI представила процессор Jalapeño — первый чип собственной разработки, созданный совместно с Broadcom. Об этом сообщается в официальном заявлении компании. Чип выполнен в виде ASIC (специализированной интегральной схемы), оптимизированной для инференса — этапа работы ИИ, когда модель обрабатывает запрос пользователя, а не обучается на данных. По словам представителей OpenAI, Jalapeño предназначен для текущих и будущих больших языковых моделей, включая агентов Codex и сервисы ChatGPT.

Разработка чипа заняла девять месяцев после объявления о партнёрстве OpenAI и Broadcom. В интервью Reuters глава

Собственный процессор позволяет OpenAI снизить зависимость от GPU Nvidia, которые находятся в ограниченном предложении. Вслед за OpenAI аналогичные шаги предприняли Microsoft, Meta и Amazon — все они запустили кастомные чипы для ИИ-серверов, однако по общей производительности пока уступают решениям Nvidia. Выпуск Jalapeño знаменует очередной этап гонки за чипы для ИИ, где компании стремятся контролировать ключевой компонент вычислительной инфраструктуры.