Альтман, Маск и Хассабис поддержали призыв Амодеи к независимому надзору

Сэм Альтман, Илон Маск и Демис Хассабис — руководители OpenAI, xAI и Google DeepMind — частично поддержали предложение главы Anthropic Дарио Амодеи о введении независимого надзора внутри ИИ-лабораторий. Об этом сообщает The Decoder. Все трое согласились с необходимостью внешней оценки систем ИИ, хотя формулировки поддержки различаются. Маск, годами предупреждающий о рисках ИИ, в этом вопросе ожидаемо оказался на стороне Амодеи. Альтман и Амодея сходятся в том, что лаборатории должны проходить независимую проверку.

Отдельно Альтман сообщил Fortune, что OpenAI не планирует выходить на IPO в этом году, объяснив это соображениями безопасности. Внутри компании решение было принято ещё в июне. Возможна и другая трактовка: текущие финансовые показатели OpenAI не позволяют провести размещение на выгодных условиях, особенно на фоне Anthropic. Обе версии могут быть верны одновременно.

Не все согласны с предложением Амодеи. Исследователь Google Пейман Миланфар выступил против, назвав рекурсивное самосовершенствование (RSI) наивным допущением. По его словам, циклы обратной связи в таких системах принципиально нестабильны: чем сильнее система оптимизирует себя, тем глубже она уходит в слепые зоны. Надёжные доказательства даёт только реальный мир, а не benchmark-тесты. Поэтому «ограничение скорости», предложенное Амодеей, Миланфар считает ненужным. «Системы, которые надёжно улучшают себя, будут управляемыми, затухающими, медленными и ограниченными запасами, которые выглядят расточительными. Потому что стабильность — это и есть

Рекурсивное самосовершенствование — гипотетический сценарий, при котором ИИ-система улучшает собственный код или архитектуру, что приводит к ускоренному росту возможностей. Амодея и его сторонники рассматривают RSI как один из ключевых долгосрочных рисков, требующих внешнего контроля. Миланфар указывает на техническое ограничение: нестабильность обратных связей не позволяет системе бесконечно ускоряться без потери надёжности. Это делает внешнее «ограничение скорости» избыточным, поскольку сама природа таких систем задаёт пределы.

Дискуссия отражает более широкий раскол в отрасли. Одни руководители настаивают на институциональных механизмах сдерживания, другие считают, что технические свойства систем сами по себе достаточны. Позиция Альтмана осложняется тем, что он одновременно говорит о безопасности и откладывает IPO. Финансовый контекст: Anthropic, по данным источников, демонстрирует более устойчивые показатели, что может влиять на решение OpenAI остаться частной компанией.