NVIDIA представила процессор Vera, предназначенный для выполнения задач агентного искусственного интеллекта. Новинка относится к категории так называемых max single-threaded CPU at scale — процессоров, оптимизированных не на общую пропускную способность, а на скорость выполнения одного потока инструкций. По заявлению компании, Vera построен с учётом особенностей работы агентных систем, в которых каждый шаг (вызов инструмента, выполнение кода, обработка данных) должен завершиться до перехода к следующему.
В основе Vera лежит ядро Olympus, которое обеспечивает на 50% больше инструкций за такт (IPC) по сравнению с предшественником Grace. Процессор содержит 88 ядер, объединённых на монолитном кристалле, что устраняет так называемый «чиплетный налог» — потерю производительности при доступе к памяти. Пропускная способность памяти LPDDR5X достигает 1,2 ТБ/с при энергопотреблении менее 40 Вт, а межъядерная пропускная способность составляет 3,4 ТБ/с — в три раза больше, чем у любого другого процессора для центров обработки данных.
Традиционные дата-центровые CPU проектировались для облачных нагрузок, где приоритетом было максимальное количество арендуемых ядер при минимальной стоимости. Это привело к росту числа ядер за счёт производительности каждого отдельного ядра. Однако для агентного ИИ такая архитектура неэффективна: агенты работают циклически и последовательно, и скорость каждого шага определяется именно single-threaded производительностью. В условиях ИИ-фабрик, где GPU является наиболее ценным ресурсом, простой в ожидании завершения задачи на CPU снижает утилизацию GPU и, следовательно, доход.
Архитектура Olympus обеспечивает на 50% больше инструкций за такт, чем NVIDIA Grace.
В отличие от модульных чиплетных архитектур, Vera использует монолитный кристалл, что даёт всем ядрам равный доступ к полной пропускной способности памяти. Это особенно важно для агентов, которые работают параллельно в больших количествах: каждый агент должен получать предсказуемую задержку без конкуренции за ресурсы. По данным NVIDIA, пропускная способность 3,4 ТБ/с между ядрами в три раза превышает показатели любых существующих серверных процессоров. Vera, по замыслу NVIDIA, решает проблему неэффективности традиционных CPU, обеспечивая высокую производительность каждого ядра независимо от загрузки системы, что ускоряет агентный цикл и повышает общую эффективность ИИ-инфраструктур.
