13 января Марк Цукерберг опубликовал манифест из 6500 слов о персональном ИИ, в котором описал возможности систем «персонального суперинтеллекта», которые строит Meta ИИ. Идеи в посте не новы: версия эссе вышла в Wall Street Journal две недели назад, а ранее он обсуждал их на звонках с инвесторами. Однако это, вероятно, самая подробная версия его взглядов на то, как ИИ изменит общество.
Цукерберг рисует картину будущего, где каждый получит персонального ИИ-тьютора с PhD по каждому предмету и безграничным терпением, суперинтеллектуального юриста и помощника для решения любых задач. Но, как отмечает TechCrunch, эти примеры выглядят оторванными от реальности. Например, описанный тьютор уже существует — это потребительские чат-боты вроде ChatGPT, Claude и Gemini. Однако на практике они чаще используются для списывания, а не для обучения, и из-за отсутствия надежной системы водяных знаков учителя не могут отличить сгенерированные тексты от написанных учениками.
Проблема в том, что Цукерберг не признает негативных последствий ИИ, что усиливает недоверие к технологическим лидерам. Опросы показывают: 64% американцев считают, что соцсети навредили демократии, и столько же выступают за ужесточение регулирования. На выходных суд оштрафовал Meta на $567 млн за вред детям. Эти факторы формируют общественный фон, на котором манифест Цукерберга воспринимается как попытка убедить себя и других, что ничего плохого не случится.
В тексте он описывает ИИ-тьютора с PhD по каждому предмету, хотя такие инструменты уже существуют и часто используются для списывания.
Эссе также содержит общие рассуждения о том, что «люди и институты с конкурирующими интересами естественным образом уравновешивают друг друга», что напоминает прежние заявления Цукерберга о свободе слова. Однако вместо конкретики о продукте «персональный интеллект», который Meta выводит на рынок, читатель получает философские обобщения. Это вызывает тревогу: если один из самых влиятельных людей мира не видит рисков, как ему можно доверять?
TechCrunch подчеркивает, что сам Цукерберг, вероятно, искренне верит в светлое будущее ИИ, но такие эссе не помогают индустрии завоевать доверие. Напротив, они демонстрируют, как было потеряно доверие к соцсетям, и переносят это на ИИ. Пока технологические лидеры не признают реальные проблемы, такие как использование ИИ для списывания или распространение дезинформации, общественность будет относиться к ИИ с подозрением.
