От Маска до Альтмана: как топ-менеджеры ИИ-компаний призывали регулировать отрасль

Публичные призывы к регулированию искусственного интеллекта со стороны людей, которые на нём зарабатывают, — не новая тенденция. За последние дни сразу несколько руководителей крупных ИИ-компаний выступили с заявлениями о необходимости замедлиться: среди них CEO OpenAI Сэм Альтман, CEO Anthropic Дарио Амодеи, соучредитель Google DeepMind Демис Хассабис, CEO Microsoft Сатья Наделла и CEO X Илон Маск. Когда люди, получающие прибыль от технологии, объявляют её опасной и требующей контроля, это вызывает закономерный скепсис. Но история таких заявлений уходит на десятилетия назад.

Ещё в 1863 году теория эволюции Дарвина побудила писателя Сэмюэла Батлера предупредить об умных самовоспроизводящихся машинах, которые могут заменить людей. В его книге 1872 года Erewhon описано вымышленное общество, которое уже отрегулировало машины до полного исчезновения, чтобы избежать краха человечества. Пионер вычислений Алан Тьюринг в лекции 1951 года предупреждал, что искусственный интеллект встретит «большое сопротивление», поскольку неумирающие машины «не займут много времени, чтобы превзойти наши слабые силы» и в итоге «возьмут контроль». Призывы к вмешательству тоже не новы: в 2000 году соучредитель и главный научный сотрудник Sun Microsystems Билл Джой писал, что самореплицирующиеся роботы могут быть опаснее ядерного оружия — отчасти потому, что разрабатываются «внутри теперь уже неоспариваемой системы глобального капитализма», а не в строго контролируемых государственных лабораториях. В 2009 году исследователь Microsoft Эрик Хорвиц, ныне главный научный сотрудник компании, собрал ведущих ИИ-исследователей, чтобы рассмотреть «создание политик, которые могли бы ограничить или сместить поведение автономных и полуавтономных систем».

Современная волна заявлений от руководителей ИИ-компаний, судя по всему, началась с Илона Маска, который инвестировал раньше многих. К моменту, когда он сказал губернаторам США, что ИИ нужно регулировать немедленно, он уже вложил $38 млн в OpenAI и имел доли как минимум в двух других ИИ-компаниях. Публично об опасности ИИ он говорил три года: в июне 2014-го предположил, что исследования могут создать реального Терминатора, в августе назвал ИИ «потенциально опаснее ядерного оружия», в октябре заявил, что работа над ИИ — это «вызов демона». В январе 2015 года он вместе со Стивеном Хокингом подписал открытое письмо с призывом к ответственным исследованиям ИИ. «ИИ — редкий случай, когда нужно быть проактивным в регулировании, а не реактивным. Потому что когда мы станем реактивными в регулировании ИИ, будет уже слишком поздно», — сказал Маск на летней встрече Национальной ассоциации губернаторов в июле 2017 года. В марте 2018-го он добавил: «ИИ гораздо опаснее ядерного оружия. Так почему у нас нет регуляторного надзора?»

Другие руководители подхватили тему. В марте 2018 года, после скандала с Cambridge Analytica, основатель Meta Марк Цукерберг заявил, что его компания, возможно, должна быть регулируемой — если это «правильное» регулирование. В основном речь шла не об ИИ, но он коснулся и этой темы: по мере того как ИИ-инструменты становятся лучше, компании смогут проактивно определять, какой контент может быть оскорбительным или нарушать правила, и тогда встаёт вопрос об их ответственности и юридической ответственности. В марте 2019 года он добавил, что интернету нужна «более активная роль» регуляторов.

В декабре 2018 года Microsoft привлекла критику за сотрудничество с ICE по технологиям распознавания лиц на фоне политики разделения детей и родителей на границе США. Президент Microsoft Брэд Смит в речи в Brookings Institution открыл дверь для добровольного регулирования: «Мы считаем важным, чтобы правительства в 2019 году начали принимать законы, регулирующие эту технологию. … Мы считаем, что единственный способ защититься от этой гонки ко дну — построить пол ответственности, поддерживающий здоровую рыночную конкуренцию. А прочный пол требует, чтобы мы обеспечили верховенство закона для этой технологии и организаций, которые её разрабатывают и используют».

В январе 2020 года CEO Alphabet Сундар Пичаи написал в Financial Times: «У меня нет никаких сомнений, что искусственный интеллект нужен регулировать. Он слишком важен, чтобы этого не делать. Вопрос только в том, как к этому подойти». Он отметил, что такие компании, как его, не могут просто строить многообещающие новые технологии без ответственности.

Общая картина такова: заявления об опасности ИИ и необходимости регулирования делают в основном те, кто уже инвестировал в отрасль или управляет компаниями, зарабатывающими на ней. Это не отменяет самих рисков, но объясняет, почему к таким призывам стоит относиться с вниманием к контексту — кто именно говорит, что стоит за его словами и какие интересы он представляет.