OpenAI, Anthropic и Google призывают замедлить развитие ИИ

В начале этого года глава Anthropic Дарио Амодеи выступил с предложением, которое вызвало раскол в ИИ-сообществе. Он призвал отрасль и правительства координировать замедление разработки передовых моделей и запросил антимонопольные исключения, чтобы ведущие лаборатории могли совместно устанавливать стандарты безопасности. Идею поддержали Сэм Альтман и Илон Маск, но многие эксперты восприняли её как попытку закрепить рынок за несколькими игроками.

Наиболее развёрнутая критика прозвучала от Эйдана Гомеса, сооснователя и CEO компании Cohere. В своём блоге он назвал предложение Anthropic попыткой установить правила и закрыть рынок. Гомес поддерживает независимое тестирование мощных ИИ-систем, но указывает, что план идёт гораздо дальше: несколько доминирующих лабораторий получат антимонопольное исключение, установят общие стандарты и обяжут всех остальных разработчиков мира следовать их правилам. Особое неприятие у Гомеса вызывают барьеры входа, которые создаст такая система: огромные вычислительные ресурсы, постоянная инфраструктура мониторинга, выделенные организации по безопасности, встроенные команды оценщиков и связи в правительстве, достаточные для управления всем этим. Он также отмечает, что немногочисленные «независимые» организации по оценке финансируются теми же компаниями, которые они должны проверять. По мнению Гомеса, рамка Anthropic определяет риск как функцию масштаба, что делает крупнейшие компании единственными, кто может судить о риске. «Волк в овечьей шкуре, картель под любым другим именем», — пишет он. Предупреждения о безопасности Гомес считает дымовой завесой: пока индустрия обсуждает гипотетический сверхинтеллект, «инструменты клонирования голоса дешевле телефонного счёта могут опустошить счёт пенсионера за минуты».

Схожую позицию занимает Нилс Рогге, инженер по машинному обучению в Hugging Face — компании, чья бизнес-модель зависит от широкого выбора открытых ИИ-моделей. Он называет заявления Амодеи и других «самым странным абсурдом, который я читал за последнее время». По мнению Рогге, Амодеи в первую очередь беспокоят китайские модели, такие как разработки DeepSeek и Z.ai, и он хочет ограничить открытые модели, чтобы защитить конкурентное преимущество. Крупные ИИ-лаборатории делают огромные ставки на масштаб, и меньшие открытые модели могут подорвать эти ставки, хотя явных признаков этого пока нет. Современные LLM, по словам Рогге, далеки от экзистенциальных рисков. Он также напоминает об инциденте, когда автономные модели OpenAI взломали Hugging Face — закрытого игрока с огромными вычислительными ресурсами. Открытые модели помогли в защите. Именно поэтому, считает Рогге, отрасли нужны прозрачность и открытость, а не закрытые двери.

Дэвид Сакс, советник Белого дома по ИИ и криптовалютам при президенте Трампе и венчурный капиталист, ответил Амодеи и Альтману прямо в X. По «любой разумной метрике», написал Сакс, OpenAI и Anthropic занимают дуополию в области передовых интеллектуальных систем. Если их невыпущенные модели настолько опасны, он поддерживает добровольное замедление. Однако мотивация не альтруистична: обе компании несут огромную ответственность за продукт, если их модели позволят серьёзную кибератаку. «Рынок уже наказывает модели, которые ведут себя непредсказуемо или несанкционированно. После инцидента с Hugging Face для OpenAI и Anthropic просто выгодно обменять часть сырой мощности на надёжность и предсказуемость», — написал Сакс. Он также предупредил, что привязка замедления к конкретной регуляторной рамке выглядит как вымогательство. Китай, добавил он, «очень маловероятно» присоединится к любому глобальному соглашению, и, возможно, он прав: Пекин уже отклонил предложенные планы замедления, назвав их уловкой США для закрепления лидерства в ИИ.

Президент Дональд Трамп пошёл ещё дальше. В посте в Truth Social он назвал предупреждения о том, что «ИИ захватит мир», «мистификацией», поставив их в один ряд с климатическими спорами, расследованием о России и процедурой импичмента. Трамп также заявил, что председатель КНР Си «только что объявил, что Китай не будет делать абсолютно ничего, чтобы стоять на пути ИИ или его будущего». В нескольких последующих постах Трамп удвоил ставку, назвав «ИИ-аферу», продвигаемую «радикальными левыми демократами», похожей на «их аферу с глобальным потеплением». Технический директор Департамента обороны Эмиль Майкл поддержал Трампа, заявив, что предупреждения исходят от «глубоко укоренённой идеологии, которая довольно антиутопична». Политические оппоненты администрации Трампа заняли другую сторону: Барак Обама, Берни Сандерс и Камала Харрис поддержали замедление и приветствовали стремление лабораторий к большей прозрачности.

Спор обнажает фундаментальный конфликт: одни видят в замедлении необходимую меру предосторожности, другие — инструмент конкурентной борьбы. Пока стороны обмениваются аргументами, вопрос о том, кто и как будет регулировать развитие ИИ, остаётся открытым.