В выходные Сэм Альтман (OpenAI), Дарио Амодеи (Anthropic), Демис Хассабис (Google DeepMind) и Илон Маск (SpaceX) частично согласились с предложением о замедлении развития ИИ. План, изложенный в эссе Амодеи, состоит из трёх шагов: внедрение сторонних аудиторов, регулирование национальных лабораторий и достижение глобального соглашения о замедлении. Критики сразу увидели в этом попытку остановить конкурентов, подорвать open-source и избежать реального юридического контроля, назвав инициативу «картелем». Однако источники The Verge утверждают, что ситуация сложнее.

Контекст: опасения по поводу ИИ усилились после сообщений о том, что рои агентов стояли за хакерскими атаками, о которых не знали в Anthropic и OpenAI. Публичное письмо бывшего исследователя Anthropic Джейкоба Коксона, заявившего, что компании «мчатся к самоулучшающемуся сверхинтеллекту и играют с нашими жизнями», набрало более 170 млн просмотров в X. Это подогрело дискуссию, хотя, по словам Дэниела Кокотайло из ИИ Futures Project, призывы к замедлению звучат от независимых исследователей уже годы. В июле более 1000 сотрудников ИИ-лабораторий подписали открытое письмо с требованием замедлиться после инцидента OpenAI-Hugging Face.

ШагОписание
1Внедрение сторонних аудиторов
2Регулирование национальных лабораторий
3Глобальное соглашение о замедлении

Многие эксперты оценивают вербальное соглашение положительно. Ник Риз (NYU, экс-директор по политике в DHS) считает, что это «не просто сотрясение воздуха». Мариус Хобхан (Apollo Research) называет это «одним из лучших событий для безопасности за долгое время, если это произойдёт». Тайлер Джонстон (Midas Project) видит «хороший знак», а Бак Шлегерис (Redwood Research) — «осторожный оптимизм». Все сходятся: предстоит много работы, чтобы обязательство стало железным.

Письмо бывшего исследователя Anthropic Джейкоба Коксона набрало более 170 млн просмотров в X.

Jensen Huang puts Trump on speakerphone onstage to announce robots won’t take over the world
Jensen Huang puts Trump on speakerphone onstage to announce robots won’t take over the world · Источник: The Verge AI

Однако остаются вопросы к мотивам. Крупные технологические компании годами опережали регулирование, лоббируя собственные правила или обещая саморегулирование. Их обвиняли в safety-washing — имитации безопасности. Кокотайло предупреждает: «Есть серьёзная обеспокоенность, что на самом деле они не собираются замедляться». Пока неясно, станет ли это соглашение реальным шагом или очередным PR-ходом.