Цукерберг, Амодеи и спор о регулировании ИИ: безопасность или контроль

Дискуссия о безопасности ИИ перешла в публичную плоскость на этой неделе: Марк Цукерберг в X написал, что доверие и согласованность становятся главными характеристиками, отличающими ИИ-агентов и модели. Он также сообщил, что Meta задержала выпуск своей модели Muse на несколько месяцев, чтобы сосредоточиться на безопасности и защите. «Мы не призывали всех остальных делать это раньше нас. Мы просто сделали это повседневной работы, потому что это явно правильно для людей и для нас», — заявил Цукерберг. Его слова прозвучали на фоне эссе главы Anthropic Дарио Амодеи почти на 4000 слов, где тот обосновывал необходимость замедления разработки ИИ для развёртывания адекватных защитных механизмов. План Амодеи включает международную стратегию сотрудничества компаний и правительств по безопасному внедрению. Его поддержали Сэм Альтман из OpenAI и Илон Маск из xAI.

Однако Цукерберг, поддержав отдельные части плана Амодеи, дал понять, что государственное вмешательство не обязательно. По его мнению, органические стимулы рынка заставят компании правильно подходить к безопасности: успех в итоге придет к тем, кто создаёт модели, не вызывающие хаоса. Эта позиция перекликается с его собственным эссе, опубликованным месяцем ранее, где он выступал за ограниченное сотрудничество с государством и делал ставку на американскую конкурентоспособность. Схожих взглядов придерживаются и другие руководители. Соучредитель Reddit Алексис Оганян в среду сказал CNBC, что индустрия была «глуха» к объяснению рисков ИИ для публики, но выразил надежду, что компании разберутся сами. Соучредитель Google DeepMind Шейн Легг отметил: «Мы живём в период, когда возможности развиваются очень быстро. Но мы не можем позволить возможностям опережать безопасность». Он добавил, что нужно проработать детали того, как это будет работать на практике.

На этом фоне The Information сообщила, что OpenAI, Anthropic и другие крупные ИИ-компании работают над созданием организации по стандартам ИИ — частного «саморегулируемого органа». Ранее обсуждалось создание аналогичной структуры на федеральном уровне, но администрация Трампа, включающая сторонников нерегулируемого технологического бизнеса, не стала этого делать. «ИИ-царь» администрации Дэвид Сакс заявлял, что регулирование ИИ следует оставить компаниям-разработчикам. Конгресс также не проявляет интереса: спикер Палаты представителей Майк Джонсон в ответ на опасения о катастрофических последствиях ИИ сказал: «Вы не все умрёте через 10 лет». Частная организация сохранит индустрию нерегулируемой, кроме добровольных обязательств, и наделит определённой властью компании, которые её создают.

Это подводит к另一 теме — обвинениям в «регуляторном захвате». Согласно этой точке зрения, влиятельные компании могут использовать регуляторные стратегии, чтобы вытеснить или поставить в невыгодное положение меньших конкурентов. Речь не обязательно о реальных законах, а о добровольных отраслевых стандартах, которые создают давление на менее мощные фирмы. Многие представители китайского правительства также высказывались в этом ключе. Таким образом, спор о безопасности ИИ всё больше превращается в спор о том, кто будет устанавливать правила — государства или сами компании, и не станет ли безопасность инструментом контроля над рынком.