Nvidia разрабатывает новое семейство открытых моделей Nemotron 4, крупнейшая из которых будет содержать не менее одного триллиона параметров. Это вдвое больше, чем у текущей флагманской Nemotron 3 Ultra, выпущенной в июне. По данным The Information, Nvidia увеличила расходы на облачные вычисления для обучения собственных моделей до $28 млрд в период до 2031 года, что втрое превышает прежние планы. Самый ранний возможный срок релиза — осень текущего года.
Масштаб в один триллион параметров впечатляет, но китайские лаборатории уже давно работают на таком уровне. Moonshot ИИ выпустила Kimi K3 с 2,8 триллиона параметров, а DeepSeek V4 Pro содержит 1,6 триллиона. На момент запуска Nemotron 3 Ultra была самой сильной открытой американской моделью по индексу Artificial Analysis Intelligence Index, однако уступала Kimi K2.6. В актуальной версии индекса Nemotron 3 Ultra набирает 38 баллов, тогда как Kimi K3 — около 60. Таким образом, Nvidia лишь догоняет конкурентов, а не задаёт новый стандарт.
| Модель | Параметры |
|---|---|
| Nemotron 4 (план) | 1 трлн |
| Nemotron 3 Ultra | ~500 млрд |
| Kimi K3 (Moonshot AI) | 2,8 трлн |
| DeepSeek V4 Pro | 1,6 трлн |
Для Nvidia открытые модели — это не только исследовательский интерес, но и бизнес-стратегия. Чем больше компаний разворачивают
Nvidia увеличила расходы на облачные вычисления для обучения моделей до $28 млрд до 2031 года.
Параметры модели — это количество весов, которые определяют её поведение. Больше параметров обычно означает более высокую точность, но требует огромных вычислительных ресурсов для обучения и запуска. Открытые модели, такие как Nemotron, публикуются с открытым исходным кодом, что позволяет любому использовать их бесплатно, но для коммерческого применения часто требуются мощные GPU.
Для отрасли появление Nemotron 4 означает усиление конкуренции в сегменте открытых моделей, где доминируют китайские разработчики. Если Nvidia выпустит модель с триллионом параметров, это может стимулировать дальнейшее развитие открытых технологий, но также усилит зависимость рынка от оборудования Nvidia. В то же время, учитывая, что китайские модели уже превзошли этот масштаб, Nvidia придётся предложить не только размер, но и качество, чтобы привлечь пользователей.
