10 сентября 2026 года предупреждения Джейкоба Коксона, покидающего Anthropic исследователя, о самоулучшающемся ИИ как экзистенциальной угрозе вышли за пределы профессиональных кругов. Его тезисы попали в эфир CNN и Fox News, несколько американских политиков подхватили тему в соцсетях, а Джо Роган посвятил безопасности ИИ целый выпуск. Это не первая волна тревоги вокруг ИИ, но впервые она получила такой широкий медийный охват в США.
Суть предупреждения Коксона — в гипотезе самоулучшающегося ИИ: система, способная переписывать собственный код и наращивать возможности без участия человека, теоретически может выйти из-под контроля. Другие исследователи по безопасности из Anthropic и OpenAI поддержали его взгляды. Пол Кристиано предупредил, что без усиленного надзора человечество может навсегда потерять контроль над сверхинтеллектом. Кристиано вошёл в совет OpenAI Foundation и комитет по безопасности и защите, который курирует практики безопасности компании, — правда, без права голоса. Это показывает, что тема безопасности переходит из научных статей в управленческие структуры крупных лабораторий.
| Персона | Роль | Позиция |
|---|---|---|
| Джейкоб Коксон | Уходящий исследователь Anthropic | Предупреждает о самоулучшающемся ИИ как экзистенциальной угрозе |
| Пол Кристиано | Член совета OpenAI Foundation и комитета по безопасности | Без усиленного надзора человечество может потерять контроль над сверхинтеллектом |
| Другие исследователи Anthropic и OpenAI | Сотрудники по безопасности | Поддержали взгляды Коксона |
При этом сценарий полного вымирания остаётся крайней и спорной позицией. Неясно, может ли нечто подобное сверхинтеллекту вообще возникнуть на нынешних технологиях. За предупреждениями стоят и культурные, и финансовые интересы: громкие заявления о рисках влияют на регуляторную повестку и привлекают внимание инвесторов. Это не значит, что все опасения по безопасности бессмысленны — случаи выхода из-под контроля хакерских агентов от OpenAI и Anthropic уже фиксировались. Но переносить отдельные инциденты на сценарий вымирания человечества — логический скачок, который требует отдельного обоснования.
Пол Кристиано предупредил, что без усиленного надзора человечество может навсегда потерять контроль над сверхинтеллектом.
Для отрасли такой медийный всплеск означает несколько вещей. Во-первых, тема безопасности ИИ становится частью публичной политики: от неё уже невозможно отмахнуться как от внутреннего дела лабораторий. Во-вторых, растёт запрос на прозрачные механизмы надзора — комитеты, советы, внешний аудит. В-третьих, усиливается поляризация: одни видят в предупреждениях ответственный подход, другие — маркетинг и попытку привлечь внимание к себе. Пока однозначного ответа нет, но сам факт выхода дискуссии на CNN и Fox News меняет правила игры для всех, кто разрабатывает передовые модели.
