Антропик и открытые модели: спор о концентрации власти в ИИ

В середине года на платформе X развернулась публичная дискуссия о том, как регулировать искусственный интеллект и не приведёт ли это к концентрации власти. Поводом стало заявление инвестора Гэвина Бейкера, который рассказал, что генеральный директор Anthropic Дарио Амодеи якобы предрекал своей компании статус единственной частной организации в мире, рядом с которой останутся только правительства. Исследователь Anthropic Шолто Дуглас назвал это «абсолютно ложным», подчеркнув, что концентрация экономической власти — именно то, чего компания опасается больше всего.

Спор быстро вышел за рамки одного эпизода. Бывший главный исследователь Meta Ян Лекун встал на сторону открытых моделей, сравнив ИИ с печатным станком и интернетом, которые усиливают человеческий интеллект через доступ к знаниям. По его мнению, обществу нужно разнообразие ИИ-систем с разными ценностями, как нужна разнообразная пресса. Бейкер, в свою очередь, сформулировал суть разногласий: если ИИ опасен, то либо его нужно ограничить в распространении и сосредоточить у немногих компаний и политиков, либо, наоборот, распространять как можно шире, чтобы избежать концентрации.

Амодеи ответил оппонентам в своём четвёртом посте на X за год, назвав предложенную дилемму ложной. Он отверг упрощённое представление, что любое регулирование автоматически ведёт к регуляторному захвату, когда отрасль пишет правила под себя. По его словам, хорошие институты могут ограничивать корпоративную власть и защищать граждан. В качестве примера он привёл калифорнийский закон SB53, который полностью освобождает от требований компании ниже определённого порога по выручке или затратам на обучение. Амодеи также заявил, что открытые модели, чьи веса доступны всем, лишь частично решают проблему: они переносят концентрацию к тем, у кого больше вычислительных мощностей и чипов, то есть снова к крупным лабораториям. По его мнению, ИИ централизует власть по своей структуре из-за законов масштабирования, а не из-за регулирования.

Дэвид Сакс, до недавнего времени советник Белого дома по ИИ, ответил Амодеи в девяти постах. Он отметил, что Амодеи не опроверг заявление Бейкера, хотя мог бы. Сакс также раскритиковал предложение Амодеи о создании федерального агентства для проверки ведущих моделей, назвав его «бюро одобрения ИИ», которое создаст очереди и замедлит США в гонке с Китаем. Бейкер, в свою очередь, считает, что дебаты уже завершены: почти все крупные компании, кроме Anthropic, подписали письмо Дженсена Хуанга в поддержку открытых моделей.

Этот спор отражает фундаментальный раскол в индустрии: одни видят в открытых моделях гарантию демократизации ИИ, другие — лишь иллюзию, за которой скрывается власть владельцев инфраструктуры. Для читателя, впервые сталкивающегося с темой, важно понимать: речь идёт не только о технологиях, но и о том, кто будет контролировать развитие ИИ и как это повлияет на общество.