Производство ИИ-чипов Meta стартует в сентябре

Подготовлено редакцией Malakhov AI

TechCrunch AI·7 часов назад·2 минИндустрия

Meta планирует начать серийное производство новых ИИ-чипов в сентябре, сообщает Reuters со ссылкой на внутреннюю памятку компании. Чипы, разработанные в партнёрстве с Broadcom и TSMC, прошли тестирование за шесть недель и предназначены для обучения рекомендательных моделей и инференса.

Кратко

—Meta начнёт производство ИИ-чипов в сентябре, используя TSMC для изготовления.
—Чипы разработаны программы MTIA, прошли тестирование за шесть недель.
—Meta тратит $125-145 млрд на капитальные расходы в этом году, в основном на ИИ.
—Meta закупает оборудование у Samsung, Sandisk и Sumitomo Electric.
—Meta стремится снизить зависимость от Nvidia, но продолжает закупать GPU у Nvidia и AMD.

Глоссарий · 4 термина▾

MTIA: Meta Training and Inference Accelerator — программа Meta по разработке собственных чипов для обучения и инференса ИИ-моделей.
чиплеты: Модульные компоненты чипа, которые объединяются в одном корпусе для гибкой настройки под разные задачи.
инференс: Этап работы нейросети, когда обученная модель применяется для обработки новых данных и получения выводов.
капитальные расходы: Инвестиции компании в основные средства, такие как оборудование и инфраструктура.

Meta планирует начать серийное производство новых ИИ-чипов в сентябре, сообщает Reuters со ссылкой на внутреннюю памятку компании. Как минимум один чип прошёл шестинедельное тестирование. Компания работает с Broadcom над дизайном чипов, а производство доверено TSMC. Meta также закупает оперативную память у Samsung, накопители у Sandisk и оптоволоконное оборудование у Sumitomo Electric.

Чипы разрабатываются программы Meta Training and Inference Accelerator (MTIA), о которой Meta подробно рассказала в марте. Четыре новых чипа находятся на разных стадиях: некоторые уже внедряются, другие поступят в этом или следующем году. Meta использует модульный подход с чиплетами, чтобы адаптироваться к быстро меняющимся потребностям ИИ. Компания заявила: «Каждое поколение MTIA строится на предыдущем, используя модульные чиплеты, последние данные о рабочих нагрузках ИИ и аппаратные технологии, а также внедряется с более коротким циклом». Чипы предназначены для обучения моделей рекомендательных систем и алгоритмов ранжирования, а также для более широких ИИ-нагрузок и инференса в приложениях Meta.

Meta производит собственные ИИ-чипы с 2023 года. Компания стремится сократить расходы на GPU Nvidia, которые остаются дефицитными. В апреле Meta объявила о капитальных расходах в размере $125-145 млрд на этот год, большая часть которых пойдёт на ИИ. Компания заключила многомиллиардные сделки с AMD на поставку Instinct GPU, с Amazon на использование облачных процессоров, а также соглашение с ARM для рекомендательных систем. Meta планирует развернуть 7 гигаватт вычислительных мощностей в этом году и удвоить показатель в следующем. Собственные чипы должны помочь снизить зависимость от Nvidia, но Meta продолжит закупать GPU у Nvidia и AMD. Такая стратегия характерна для многих крупных игроков: OpenAI, Anthropic, Amazon и Google также разрабатывают собственные чипы. OpenAI недавно представил процессор инференса в партнёрстве с Broadcom, а Anthropic рассматривает возможность собственных чипов с Samsung.