Губернатор Калифорнии Гэвин Ньюсом подписал указ, который задаёт контур будущего регулирования ИИ в штате. Документ поручает созвать группу экспертов, которая в течение двух месяцев подготовит рекомендации по усилению безопасности передовых моделей. Среди предложений, которые предстоит оценить, — обязательное присутствие независимых верификаторов на площадках разработчиков для регулярных аудитов, а также создание «kill switch» — механизма аварийного отключения, эффективность которого должна подтверждаться проверками.
Указ также требует, чтобы компании сообщали о так называемых инцидентах потери контроля над моделью как о критических случаях безопасности. В качестве примера в источнике упоминается атака OpenAI на Hugging Face. Кроме того, документ ускоряет внедрение двух недавно принятых законов: один создаёт рамку для независимых проверок безопасности ИИ, другой — реестр ИИ-аудиторов в штате. Таким образом, Калифорния пытается выстроить инфраструктуру надзора, а не только декларировать принципы.
| Мера | Что предусматривает |
|---|---|
| Группа экспертов | Рекомендации в течение двух месяцев по усилению безопасности ИИ |
| Независимые верификаторы | Присутствие на площадках компаний для регулярных аудитов |
| Kill switch | Обязательное аварийное отключение с регулярной проверкой эффективности |
| Отчётность об инцидентах | Уведомление о потере контроля как о критическом инциденте безопасности |
| Ускорение законов | Внедрение рамки независимых проверок и реестра ИИ-аудиторов |
Ньюсом прямо позиционирует указ как модель для федерального уровня. Он призвал Конгресс и президента Дональда Трампа «рассмотреть и принять рамку штата» или использовать её как минимальный стандарт. В заявлении губернатора говорится о «полном провале федерального правительства» в создании осмысленного надзора за ИИ, особенно на фоне того, что сами руководители ИИ-компаний просят регулирования. «Мы не ждём — мы ускорим работу над существенным и ответственным надзором, пока не стало слишком поздно», — сказал Ньюсом.
Среди предложений — обязать компании размещать независимых верификаторов для регулярных аудитов и создать проверяемый «kill switch».
Фон для указа — пробуксовка законодателей в Вашингтоне. После публикации бывшего исследователя Anthropic Джейкоба Коксона, который предупредил о более чем 10-процентной вероятности того, что ИИ «может убить всех людей» в течение десяти лет, в Конгрессе активизировались обсуждения законопроектов. Однако Палата представителей ушла на каникулы до ноября, а приближающиеся промежуточные выборы делают маловероятным принятие серьёзного закона в Сенате. Президент Трамп, в свою очередь, заявлял, что «единственный контроль или „ограничители“, которые нужны ИИ, — это СИЛЬНЫЙ И УМНЫЙ (с высоким IQ!) ПРЕЗИДЕНТ, и у США он есть в избытке».
Указ Ньюсома, вероятно, не последний шаг Калифорнии. В среду в интервью Politico он допустил созыв специальной сессии законодательного собрания штата по ИИ наряду с возможными исполнительными действиями. Штат уже принял законы об аудиторах и верификаторах, а теперь пытается связать их в работающую систему. Для отрасли это означает, что разработчикам передовых моделей, работающим в Калифорнии, возможно, придётся готовиться к регулярным независимым проверкам и документированию рисков. Для других штатов и федерального центра калифорнийский указ становится ориентиром: если Вашингтон не действует, инициативу перехватывает крупнейший по экономике штат.
