В понедельник Лев XIV опубликовал свою первую крупную папскую энциклику Magnifica Humanitas, посвященную искусственному интеллекту. Документ объемом более 42 тысяч слов — это манифест по «защите человеческой личности во времена искусственного интеллекта». Понтифик предупреждает об опасностях ИИ в военной сфере, влиянии на рынок труда и необходимости новых правовых и этических рамок.
Эпоху ИИ папа сравнивает с Вавилонской башней. Он призывает избегать «синдрома Вавилонской башни», который определяет как «идолопоклонство прибыли, жертвующее слабыми, унификацию, нивелирующую различия, и претензию на то, что один язык — даже цифровой — может перевести всё, включая тайну личности, в данные и производительность». Энциклика не является blanket objection к ИИ, а призывает к «разукреплению» технологии — в военном, экономическом и социальном смыслах.
| Область | Предложение |
|---|---|
| Занятость | Ввести социальные критерии для автоматизации с защитой и переобучением работников |
| Военные действия | Человек, а не алгоритм, принимает решение о применении летальной силы |
| Образование | Помощь учителям и студентам в ответственном, критическом и творческом использовании технологий |
| Найм и услуги | Прозрачность и подотчетность алгоритмов при принятии решений о найме или доступе к услугам |
| Экология | Развитие более экологически устойчивых технологий ИИ |
Среди конкретных предложений: ввести социальные критерии для автоматизации с защитой и переобучением работников; оставить за человеком решение о применении летальной силы; помогать учителям и студентам ответственно использовать технологии; обеспечить прозрачность алгоритмов при найме; развивать экологически устойчивый ИИ. Документ подчеркивает, что «разукрепить — значит дискредитировать предположение, что техническая власть автоматически даёт право управлять».
Документ предлагает социальные критерии для внедрения автоматизации, человеческий контроль над летальным оружием и прозрачность алгоритмов при найме.
Влияние ИИ на человечество стало определяющим вопросом для понтифика. Он выбрал имя Лев в связи с промышленной революцией — его предшественник Лев XIII издал энциклику о защите рабочих. Интересно, что представители Amazon, Meta и Google встречались с ватиканскими чиновниками до публикации документа, а сооснователь Anthropic Кристофер Ола присутствовал на презентации энциклики. Отдельные попытки «проповедовать AGI» папе не нашли отражения в тексте — Magnifica Humanitas не упоминает общий искусственный интеллект.
