В понедельник Папа Римский Лев XIV опубликовал энциклику Magnifica Humanitas, посвященную «защите человеческой личности во времена искусственного интеллекта». 200-страничный документ был представлен совместно с сооснователем компании Anthropic Крисом Ола. Хотя формально энциклика посвящена ИИ, основное внимание в ней уделено старым проблемам: неравенству, войне, ослаблению демократии и концентрации власти в руках тех, кто не обязательно заботится о благе человечества.
В тексте утверждается, что технологии, создаваемые и управляемые небольшой элитой, по определению не могут служить общему благу. «Когда такая власть сосредоточена в руках немногих, она становится непрозрачной и уходит от общественного надзора, увеличивая риск искаженных форм развития, порождающих новые зависимости, исключения, манипуляции и неравенства», — пишет понтифик. Энциклика продолжает: «Как и при каждом крупном технологическом сдвиге, ИИ усиливает мощь тех, кто уже обладает экономическими ресурсами, экспертизой и доступом к данным». Папа предупреждает, что элиты могут использовать свою власть для «формирования информации и моделей потребления, влияния на демократические процессы и управления экономикой в своих интересах».
Энциклика вышла через несколько дней после того, как президент Дональд Трамп отложил подписание исполнительного указа по ИИ — по сообщениям, под давлением венчурного инвестора и бывшего «ИИ-царя» Белого дома Дэвида Сакса. Лев XIV призвал к «четким критериям и эффективному надзору» за ИИ, основанным на участии сообществ, которых это коснется. Конкретнее, он призвал к прекращению гонки алгоритмов за «все более мощные алгоритмы и большие наборы данных», которые компании и страны, по его мнению, рассматривают как способ «обеспечить геополитическое или коммерческое доминирование». «Разоружиться — значит дискредитировать предположение, что техническая власть автоматически дает право управлять», — написал он.
Понтифик призвал прекратить гонку алгоритмов и ввести эффективный надзор за ИИ.
Эти проблемы не новы. Энциклика 1891 года Rerum Novarum Папы Льва XIII касалась той же концентрации власти в эпоху промышленной революции. Современные примеры, такие как покупка Twitter Илоном Маском и использование платформы для избрания Трампа, а также многомиллионные вливания технологических элит в супер-PAC для блокирования регулирования ИИ, иллюстрируют ту же модель. Профессор Школы права Нотр-Дам Паоло Кароцца, член Папской академии социальных наук и председатель Наблюдательного совета Meta, отметил, что дезинформация и дипфейки на базе ИИ «подорвали нашу способность распознавать правду, что имеет последствия для демократической политики». Он добавил, что практика «сбора и манипулирования» человеческими данными создает «фундаментальные вызовы когнитивной свободе».
