Коннор Лихи, известный исследователь ИИ и предприниматель, а ныне исполнительный директор некоммерческой организации ControlAI в США, выступил на подкасте Equity от TechCrunch с радикальным заявлением: разработку суперинтеллекта следует запретить, а не пытаться контролировать. По его словам, риски, связанные с созданием систем, превосходящих человеческие возможности, слишком велики, чтобы полагаться на методы выравнивания и сдерживания.
Лихи провел аналогию между суперинтеллектом и противником, а не оружием. Он утверждает, что традиционные подходы к безопасности ИИ, такие как выравнивание (alignment), не смогут гарантировать контроль над системами, которые умнее людей. В качестве примера он приводит недавний инцидент с утечкой данных в OpenAI через Hugging Face, который демонстрирует уязвимость даже передовых лабораторий.
ControlAI, которую Лихи теперь представляет в США, выступает за более радикальный подход: полное прекращение разработки суперинтеллекта. Организация поддерживает законопроект Сэндерса-Кассара «О запрете суперинтеллекта» (Ban Superintelligence Act), но Лихи считает, что этот закон может зайти дальше, чем необходимо. Параллельно в Великобритании разрабатывается аналогичное законодательство, в подготовке которого ControlAI принимала участие.
ControlAI поддерживает законопроект Сэндерса-Кассара о запрете суперинтеллекта, но считает его избыточным.
Лихи также высказал мнение, что ведущие лаборатории ИИ следует рассматривать не просто как компании, стремящиеся к прибыли, а как политических игроков. Это особенно актуально в свете триллионов долларов, вкладываемых в строительство дата-центров. Он подчеркивает, что точка невозврата наступит, когда ИИ сможет создавать более совершенные версии себя, что приведет к неуправляемому циклу самосовершенствования.
В качестве решения Лихи предлагает международные соглашения по принципу «доверяй, но проверяй». Он утверждает, что Китаю на самом деле невыгодно создавать суперинтеллект, что открывает возможность для глобального сотрудничества в этой области.
Полный выпуск подкаста Equity доступен на YouTube, Apple Podcasts, Overcast, Spotify и других платформах.
