OpenAI и Broadcom представили чип Jalapeño для инференса LLM

OpenAI совместно с Broadcom представила чип Jalapeño — первую собственную разработку компании в области аппаратного обеспечения для инференса больших языковых моделей. Чип не является модификацией готового решения, а спроектирован с нуля под задачи современных LLM. По данным компаний, процесс от проектирования до выпуска занял девять месяцев, что они называют быстрейшим циклом разработки ASIC для высокопроизводительных полупроводников, о котором им известно. Вклад OpenAI — архитектура чипа, Broadcom отвечает за производство и сетевые технологии (включая собственные чипы Tomahawk), а Celestica — за платы, стойки и системную интеграцию.

Архитектура Jalapeño, по заявлениям, минимизирует перемещение данных и приближает утилизацию к теоретическому максимуму. Инженерные образцы уже запускают рабочие нагрузки машинного обучения в лаборатории, включая модель GPT-5.3-Codex-Spark, которая ранее работала на оборудовании Cerebras. OpenAI утверждает, что показатели производительности на ватт «существенно лучше», чем у текущих решений, однако эти оценки являются самоотчётными и не прошли независимую верификацию. Технический отчёт обещают опубликовать позднее; пока неясно, с какими чипами проводилось сравнение и на каких задачах. При проектировании OpenAI использовала собственные модели для ускорения разработки, что, по словам компании, позволило сократить цикл до девяти месяцев. Однако точные характеристики чипа — тактовая частота, количество транзисторов, тепловыделение — пока не раскрываются.

Для OpenAI это первый шаг к вертикальной интеграции — от чипа до продукта, что, по мнению компании, позволит запускать модели быстрее, надёжнее и с меньшими затратами. Собственные чипы для ИИ становятся стандартом для крупных игроков: Google использует TPU, Amazon — Trainium, а Meta разрабатывает собственные ускорители. OpenAI вступает в эту гонку с Jalapeño, делая ставку на инференс, а не обучение. Первое развёртывание в масштабе гигаватт запланировано на конец 2026 года совместно с Microsoft и другими партнёрами. Ожидается, что 40% чипов с этого этапа будет гарантированно выкуплено Microsoft, по данным источников. Однако до тех пор остаётся неясным, как Jalapeño покажет себя в реальной эксплуатации и сможет ли он конкурировать с существующими решениями от NVIDIA, AMD и Cerebras. Отсутствие объективных бенчмарков и зависимость от партнёрств с крупными игроками оставляют вопросы к реальной эффективности чипа.