В субботу утром глава Anthropic Дарио Амодеи опубликовал эссе под названием «We Must Pace the Frontier». В нём он изложил три шага для замедления разработки ИИ: внедрение независимых сторонних оценщиков, которые проверяют соблюдение компаниями обязательств по безопасности и сообщают об инцидентах; координация между передовыми ИИ-компаниями демократических стран по стандартам и ограничениям; глобальная координация между демократическими и авторитарными правительствами «в той мере, в какой это возможно». Anthropic, по словам Амодеи, «в одностороннем порядке обязуется» выполнить первый шаг.
Амодеи подчёркивает, что замедление «не означает остановку обучения моделей или технического прогресса». Речь о том, чтобы компании уделяли достаточно времени выравниванию и защите моделей, а сторонние оценщики могли это подтвердить. Это важное уточнение: в дискуссии о безопасности ИИ часто смешивают паузу и регулируемое развитие.
| Персона | Роль | Позиция |
|---|---|---|
| Дарио Амодеи | CEO Anthropic | Предложил три шага для замедления ИИ, включая независимых оценщиков |
| Сэм Альтман | CEO OpenAI | Согласен с необходимостью замедления, поддерживает федеральные стандарты безопасности |
| Демис Хассабис | Соучредитель и председатель Google DeepMind | Поддержал направление, отметил необходимость проработки деталей |
| Илон Маск | CEO SpaceX | Поддержал эссе Амодеи |
| Дональд Трамп | Президент США | Выступил против замедления, заявил о сильном президенте как единственном контроле |
| Джей Ди Вэнс | Вице-президент США | Назвал просьбы компаний о регулировании «троянским конём» |
| Майк Джонсон | Спикер Палаты представителей | Призвал к балансу между национальной безопасностью и безопасностью моделей |
| Берни Сандерс | Сенатор | Согласен с призывом приостановить ИИ |
| Пит Буттиджич | Бывший министр транспорта | Упрекнул Конгресс и Белый дом в бездействии |
Реакция последовала быстро. Глава OpenAI Сэм Альтман заявил в X: «Я согласен с Дарио, что нам нужно замедлить фронтир. Это было главной темой обсуждений в OpenAI в последние недели». Он также поддержал идею независимых оценщиков и в воскресенье добавил, что OpenAI приветствует «федеральную структуру, устанавливающую единые требования безопасности для передовых ИИ». Альтман отметил, что «когда мы говорим о „замедлении“, мы не имеем в виду „остановку“», и что прогресс должен идти «медленнее, чем мог бы». Он также назвал два способа, которыми прогресс ИИ «может пойти очень плохо»: потеря «контроля над будущим» и «мир с чрезмерной концентрацией власти». Избежать этого, по его мнению, можно, «идя по узкому среднему пути».
Anthropic заявила, что в одностороннем порядке внедряет первый шаг — независимых оценщиков безопасности.
Соучредитель и председатель Google DeepMind Демис Хассабис ответил на эссе: «Эссе Дарио указывает верный путь вперёд. Детали нужно проработать, но направление правильное для этого критического момента». Он также сослался на опубликованную в июле структуру органа по стандартам ИИ. Глава SpaceX Илон Маск написал: «Дарио прав», репостнув эссе.
Президент США Дональд Трамп в понедельник опубликовал в Truth Social пространный пост, отвергающий замедление ИИ. Он заявил, что единственный нужный ИИ «контроль или „ограждения“» — это «СИЛЬНЫЙ И УМНЫЙ (высокий IQ!) ПРЕЗИДЕНТ», и что администрация уже остановила ИИ-«людей» от плохих действий. Трамп также назвал Амодеи «притворяющимся „идеальным ангелочком“» и заявил о «больной конспирологии против ИИ и дата-центров», добавив: «КТО ПОБЕДИТ В ИИ, ТОТ ПОБЕДИТ ВО ВСЁМ!».
Другие политики высказались более сдержанно. Вице-президент Джей Ди Вэнс назвал «немного странным», что передовые ИИ-компании «приходят к правительству и умоляют его регулировать их», и сравнил это с «троянским конём». Спикер Палаты представителей Майк Джонсон в интервью CNN сказал, что лидеры платформ должны встретиться с законодателями и найти баланс: «Мы не можем ввести мораторий, потому что Китай нас обгонит. Это национальная безопасность, уравновешенная немедленной безопасностью моделей». Сенатор Берни Сандерс согласился с колонкой Пегги Нунан «Pause ИИ for Humanity's Sake». Бывший министр транспорта Пит Буттиджич упрекнул Конгресс и Белый дом в бездействии.
Спор отражает раскол в подходе к регулированию ИИ. С одной стороны — руководители лабораторий, которые признают риски и предлагают механизмы независимой проверки. С другой — политики, опасающиеся, что такие механизмы затормозят США в гонке с Китаем. Пока конкретных законодательных решений нет, но обсуждение переходит от общих заявлений к конкретным шагам: независимые оценщики, федеральные стандарты, международная координация.
