OpenAI представила собственный чип для ИИ-инференса под названием Jalapeño. По заявлению компании, опубликованному в блоге во вторник, новый чип выполняет задачи эффективнее и отвечает быстрее, чем другие ИИ-системы. В ходе брифинга для журналистов вице-президент OpenAI по аппаратному обеспечению Ричард Хо отметил, что Jalapeño предлагает «лучшее из двух миров»: низкую задержку и высокую пропускную способность, тогда как ИИ-системы обычно «вынуждены идти на компромисс между ними».
Jalapeño, впервые представленный в июне, представляет собой специализированную интегральную схему (ASIC), созданную в партнерстве с Broadcom. Он предназначен для инференса — процесса запуска обученной модели ИИ для выполнения задачи или развертывания агента. Это отличает его от чипов, используемых для обучения моделей, которые требуют большей вычислительной мощности и памяти.
| Модель | Прирост работы на ватт | Снижение задержки |
|---|---|---|
| GPT-OSS 120B | 1.5–1.9x | 1.7–3.6x |
| DeepSeek R1 | 1.5–1.9x | 1.7–3.6x |
| Kimi K2.5 1T | 1.5–1.9x | 1.7–3.6x |
Для оценки производительности Jalapeño OpenAI использовала платформу InferenceX, которая показывает, насколько хорошо ИИ-системы справляются с инференсом. Тест сравнивал Jalapeño с лучшими результатами, зафиксированными на тот момент, — с суперчипами Nvidia GB200 и GB300. OpenAI сообщает, что Jalapeño обеспечил в 1,5–1,9 раза больше работы ИИ на ватт на моделях GPT-OSS 120B, DeepSeek R1 и Kimi K2.5 1T, а также снизил сквозную задержку в 1,7–3,6 раза на этих трех моделях. По словам Хо, это означает, что чип может предоставить пользователям «более быстрые ответы, более отзывчивых агентов и более надежный доступ по мере роста спроса».
В тестах InferenceX чип показал в 1,5–1,9 раза больше работы на ватт, чем Nvidia GB200/GB300.
OpenAI планирует развернуть Jalapeño в «небольших объемах» к концу этого года, но начнет «наращивать объемы» к 2027 году. Компания не раскрывает, сколько чипов планирует выпустить в следующем году. Несмотря на улучшения производительности, Хо заявил, что OpenAI не ожидает полностью заменить свой текущий парк чипов на Jalapeño, отметив, что его общая вычислительная стратегия включает «очень хороших партнеров», таких как Nvidia. OpenAI продолжит разработку второго и третьего поколений нового чипа.
Появление собственного чипа OpenAI — значимый шаг для компании, которая ранее полностью полагалась на сторонних производителей, таких как Nvidia. Это позволяет снизить зависимость от доминирующего поставщика и оптимизировать аппаратное обеспечение под свои модели. Однако эксперты отмечают, что ASIC-чипы, хотя и эффективны для конкретных задач, менее универсальны, чем GPU, и их разработка требует значительных инвестиций. Тем не менее, успех Jalapeño может усилить конкуренцию на рынке ИИ-чипов, где уже присутствуют такие игроки, как Google с TPU и Amazon с Trainium.
