На публичной лекции в Монреале столкнулись две позиции, которые сегодня делят технологическое сообщество пополам. Йошуа Бенджио — один из архитекторов современного глубокого обучения, лауреат премии Тьюринга — настаивает: ИИ движется к сверхчеловеческим возможностям, и если не выстроить международный контроль заранее, последствия окажутся катастрофическими. Его оппонент, писатель и активист Кори Доктороу, возражает: пока мы обсуждаем гипотетического цифрового бога, реальные угрозы уже работают.

Доктороу называет логику ИИ-алармизма «пари Паскаля в новой упаковке». Классическое пари Паскаля — философский аргумент XVII века: если есть хоть ненулевой шанс существования Бога, рационально вести себя так, будто он есть, поскольку ставки бесконечны. Применительно к ИИ эта логика выглядит так: даже малая вероятность появления сверхразума оправдывает любые расходы на его контроль. Проблема, по мнению Доктороу, в том, что у этого аргумента нет точки остановки. Человечество уже потратило 1,4 трлн долларов на попытку создать нечто большее, чем статистическую машину предсказания текста. Сэм Альтман называет следующую планку — ещё 2–3 трлн. Илон Маск в своих рассуждениях доходит до сферы Дайсона, которая улавливала бы всю энергию Солнца. Но если и после этого сверхразум не появится — кто решится остановиться, вложив в проект уже всё?

При этом Доктороу не отрицает технологических рисков — он переформулирует их. Его пугает не гипотетический сверхинтеллект, а вполне конкретные механизмы: работодатель, которого убедили заменить сотрудников системой, не справляющейся с реальными задачами; финансовый пузырь вокруг семи компаний, занимающих больше трети S&P 500; исчезновение накопленных профессиональных компетенций, которые нельзя быстро восстановить после того, как носители этих знаний разошлись кто куда. Асбест, который сейчас закладывают в стены, — его метафора для технологии, чьи долгосрочные издержки намеренно не считают.

Доктороу сравнивает гонку за «цифровым богом» с пари Паскаля: человечество сожгло 1,4 трлн долларов, Альтман называет следующую цель — ещё 2–3 трлн.

Отдельный пласт аргументов касается инфраструктурной зависимости. Доктороу указывает: один политический приказ способен отключить облачные платформы, обновления критического программного обеспечения, доступ к сервисам — без танков и вторжений. Это не сценарий отдалённого будущего: концентрация цифровой инфраструктуры в руках нескольких американских корпораций уже создаёт такую точку уязвимости для всего остального мира.

Парадокс дискуссии в том, что оба участника приходят к схожему выводу, хотя и с разных сторон. Бенджио развивает инициативу Lawzero — идею международного консорциума, который строил бы ИИ как открытое, прозрачное и проверяемое общественное благо, а не как корпоративный продукт. Доктороу поддерживает именно эту часть программы: постамериканский интернет, свободные платформы, децентрализованная инфраструктура. Расхождение — в приоритетах: Бенджио считает главной угрозой то, что ещё не случилось, Доктороу — то, что уже происходит. По его логике, прототип «международных цифровых общественных благ» нужен не для защиты от будущего сверхразума, а для того, чтобы справиться с корпоративной колонизацией, которая идёт прямо сейчас.