Статья на Habr поднимает тему, которая обычно остаётся за рамками профильных новостей: геополитический аспект развития ИИ. Речь идёт не о бытовых чат-ботах, а об агентных системах нового поколения, способных автономно и в течение часов решать сложные многошаговые задачи.
Такие модели, условно называемые в статье Fable и Mythos, обучаются на «ультрадлинных траекториях» — они могут вести одну работу часами, разбивать её на этапы, пользоваться инструментами, проверять промежуточные результаты и исправлять ошибки. Ключевая технология здесь — обучение с подкреплением (PPO, GRPO и более сложные методы), где система учится достигать цели в среде действий, а не просто продолжать текст.
Следующий уровень — управление группой агентов. Модель может руководить множеством копий самой себя или специализированных агентов: раздавать части задачи, ставить приоритеты, собирать результаты, перепроверять выводы. Если такая система получает задачу атаковать критическую инфраструктуру, она действует с масштабом и скоростью, которые раньше были доступны только крупным государственным структурам.
Такие системы способны автономно находить уязвимости и атаковать критическую инфраструктуру с масштабом, ранее доступным только государственным структурам.
Автор ссылается на тестирование в DHS (Министерство внутренней безопасности США), где подобная модель успешно вскрывала защищённые государственные контуры. Дополнительная угроза — возможность повторного вывода модели из ограничений через сложный jailbreak, включая атаки, сформированные самой моделью.
Для России, по мнению автора, это означает, что угроза уже рядом. Зарубежная агентная система высокого уровня потенциально способна вывести из строя крупный банк, оператора связи, транспортный контур, промышленную систему или государственный реестр. Вопрос не в том, появится ли такая возможность, а в том, насколько быстро она станет массовой и дешёвой.
В качестве защитных мер предлагаются: сегментация сетей, изоляция критических контуров, сокращение внешнего доступа, возврат ручных и автономных режимов для жизненно важных процессов, создание отдельных технологических стеков. Но этого недостаточно для долгосрочной безопасности, считает автор.
России нужна собственная программа ускоренного развития передового ИИ — условный новый атомный проект. Требуется суверенная модель стратегического класса, собственная вычислительная база, закрытые данные, агентные системы, полигон для испытаний и сильная школа обучения моделей на сложных задачах. Нужна команда, способная собрать науку, промышленность, безопасность, разведку, вычислительную инфраструктуру и государственное управление в одну программу.
Текущее положение дел в России автор оценивает скептически: оперштабы по ИИ и национальный приоритет внедрения ИИ к 2030 году — притом, что Fable и Mythos работают уже сейчас. Пассаж про «100 лет назад» отсылает к атомному проекту СССР: импакт ИИ будет выше, и действовать нужно быстрее.
