Билл Гейтс, сооснователь Microsoft, опубликовал эссе объемом почти 6 000 слов и дал интервью The New York Times, в котором назвал переход в эпоху ИИ «одним из самых turbulent периодов в истории человечества». По его словам, мир не готов к этому переходу, и четкого плана нет. Главная критика Гейтса направлена на собственную индустрию: он утверждает, что компании сознательно преуменьшают опасности ИИ, потому что на кону слишком большие деньги. «В частных разговорах люди, которые понимают, насколько хороши эти технологии и как быстро они совершенствуются, очень обеспокоены», — сказал он NYT. Публично же они убеждают друг друга: «Не говорите этого, это плохо для нас — мы пытаемся привлечь следующий триллион долларов».
Гейтс отвергает утешительное сравнение с прошлыми технологическими сдвигами, которые в итоге создавали больше рабочих мест, чем уничтожали. Он называет эпоху ИИ «совершенно, абсолютно, полностью другой». В отличие от ПК, на трансформацию которого ушло двадцать лет, ИИ работает на устройствах, которые уже есть у людей, и использует обычный язык. «Нам не нужно адаптироваться к нему, потому что он может адаптироваться к нам», — отмечает он. Впервые технология способна не просто заменить человеческое познание, но и превзойти его, и сделать это во всех отраслях за одно десятилетие, а не за поколения.
Из этой скорости Гейтс выводит три главные опасности. Первая — постоянная потеря рабочих мест, которая сильнее всего ударит по начальным и средним позициям в продажах, обслуживании клиентов, разработке ПО и юридической поддержке. Но и рабочие профессии под угрозой, когда ловкие роботы станут значительно дешевле. Гейтс ссылается на исследование Стэнфорда, которое показывает, что с распространением ИИ занятость молодых работников в наиболее уязвимых профессиях заметно снизилась, тогда как старшие коллеги пока не пострадали.
Он предупреждает, что ИИ снижает порог для создания биологического оружия: те же модели, что находят уязвимости, помогают их эксплуатировать.
Вторая опасность — биологическое оружие. ИИ упрощает кибератаки, мошенничество и дезинформацию, но главное — снижает порог для создания биологического оружия. По словам Гейтса, всего несколько человек с доступом к продвинутому ИИ могут разработать новые патогены. Проблема усугубляется тем, что полезные и опасные возможности трудно разделить: та же модель, которая находит уязвимость, чтобы закрыть ее, помогает и тому, кто хочет ее эксплуатировать. Кроме того, ИИ-системы могут действовать против интересов человека самостоятельно.
Третья опасность — психологические и социальные последствия. ИИ-компаньоны, которые никогда не спорят и всегда доступны, несут реальный потенциал зависимости, считает Гейтс. Исследование Стэнфорда и Университета Карнеги-Меллона показывает, что чем интенсивнее и эмоциональнее люди использовали такие чат-боты, тем хуже они себя чувствовали. Гейтс особенно обеспокоен детьми и потерей критического мышления, которое становится навыком выживания в эпоху дипфейков и таргетированной дезинформации.
Несмотря на мрачный список, Гейтс видит в ИИ и огромный потенциал — в науке, здравоохранении, сельском хозяйстве в бедных странах и образовании. Но эти блага не придут сами собой, их нужно завоевывать политическими решениями. «Саморегулирование самого опасного инструмента, когда-либо изобретенного? Нет, спасибо!» — говорит он. Гейтс призывает к демократическому процессу и созданию новых национальных и международных институтов, по образцу надзора за ядерным оружием, авиацией или защитой озонового слоя. Он предлагает ввести налог на использование ИИ и роботов: сейчас наем человека облагается налогами на зарплату, а покупка робота списывается сразу, что подталкивает компании заменять людей машинами. Некоторые профессии, например уход за больными, должны остаться за людьми — эту идею Гейтс называет «Human Reserved».
Показательно, что именно Гейтс, олицетворяющий подъем компьютерной индустрии, бьет тревогу. Его потрясло, что инструмент Anthropic Claude Code, который он хорошо знает, оказался в некотором смысле лучше его самого: «Идея, что эти вещи в значимом смысле лучше меня, — это как: какого черта?» Он открыто признает возможный конфликт интересов: у него остались финансовые связи с технологической отраслью, хотя прибыль идет в Фонд Гейтса. Его тон заметно ужесточился: в 2018 году он называл ИИ просто лучшим программным обеспечением, в 2022-м — говорил о переобучении и перераспределении богатства, а теперь предупреждает о самых мрачных сценариях.
