Американская компания Cerebras Systems представила новый ИИ-ускоритель CS-4. Устройство построено на том же 5-нм чипе WSE-3, что и предыдущая модель CS-3, однако, по заявлению производителя, обеспечивает вдвое большую производительность. Генеральный директор Cerebras Эндрю Фельдман назвал CS-4 самой быстрой системой в индустрии.
CS-4 относится к классу rack-scale систем: это полноценный серверный шкаф, который устанавливается в дата-центр как единый блок, включая вычислительные модули, блоки питания и охлаждение. Увеличение производительности достигнуто не за счет нового чипа, а за счет повышения тактовой частоты, что стало возможным благодаря более мощной системе охлаждения и улучшенному питанию. В одном шкафу теперь размещается три кремниевые пластины вместо двух, что позволяет достичь до 4400 токенов в секунду на одного пользователя. Cerebras утверждает, что это до 30 раз быстрее, чем конфигурации на базе GPU Nvidia. Объем памяти остался прежним — 44 ГБ на пластину.
Компания также внедрила новый модульный дизайн под названием Backpack, который ускоряет сборку системы. Кроме того, Cerebras развивает направление дезагрегированного инференса через партнеров, включая AMD и AWS Trainium. Однако аналитики SemiAnalysis считают, что улучшения в сетевом взаимодействии незначительны. Более подробные технические детали будут представлены на конференции Hot Chips.
Один стоечный модуль CS-4 теперь вмещает три пластины вместо двух и выдает до 4400 токенов в секунду на пользователя.
Оборудование Cerebras уже используется в индустрии: например, OpenAI применяет его для проекта Codex Spark. Новый CS-4 может усилить позиции Cerebras на рынке ИИ-ускорителей, где доминирует Nvidia, но вопросы остаются: насколько значимы улучшения в реальных нагрузках и как CS-4 будет конкурировать по цене и доступности.
