Сэм Альтман призвал замедлить разработку ИИ, но не останавливать её

Сэм Альтман, генеральный директор OpenAI, в очередной раз высказался за более осторожный подход к разработке искусственного интеллекта. Он призвал к созданию единой общенациональной системы безопасности для продвинутых ИИ-систем, однако отметил, что индустрия не должна ждать законодателей. По его мнению, международная координация требует поддержки со стороны правительства США.

OpenAI уже начала внедрять явные протоколы безопасности перед запуском обучения моделей, которые могут привести к значительному скачку возможностей. Альтман выразил надежду, что другие компании «извлекут уроки из наших подходов и предложат свои». При этом он подчеркнул, что «замедление» не означает «остановку». Прогресс, по его словам, «продолжит быть» быстрым, просто не таким быстрым, как мог бы. Альтман считает, что замедление стоит этих затрат, и никакое американское конкурентное давление не должно оправдывать безрассудство или позволять возможностям опережать выравнивание и мониторинг.

В выходные к призывам о более контролируемой разработке ИИ присоединились генеральный директор Anthropic Дарио Амодеи, бывший глава DeepMind Демис Хассабис, генеральный директор Microsoft Сатья Наделла и Илон Маск. По данным The Information, OpenAI, Anthropic и Google уже несколько месяцев обсуждают саморегулирование через независимый надзорный орган. Однако небольшие игроки, такие как Cohere, опасаются, что это может превратиться в картель.

Таким образом, в отрасли намечается раскол: крупные компании выступают за скоординированные меры безопасности, в то время как менее крупные участники видят в этом риск монополизации. Альтман, поддерживая идею регулирования, настаивает на том, что темпы развития ИИ останутся высокими, а безопасность должна быть встроена в процесс, а не тормозить его.