80% авиакатастроф за последние десятилетия вызваны человеческим фактором — и эта цифра не меняется, несмотря на то что самолёты стали в разы надёжнее, а автопилоты — в разы умнее. Авиационные эксперты связывают эти два факта напрямую: система, которая почти никогда не даёт сбоев, воспитывает операторов, которые почти никогда не готовы к сбою. Этот феномен получил название automation-induced complacency — ситуация, когда оператор перестаёт следить за системой из-за её высокой надёжности. Мозг не умеет удерживать устойчивое внимание без обратной связи: если ничего не происходит достаточно долго, концентрация падает сама по себе.
Яркий пример — катастрофа Air France 447 1 июня 2009 года. Ночью над Атлантикой обледенели трубки Пито, автопилот отключился. Двое пилотов, не имевшие подготовки к ручному управлению самолётом на большой высоте, потянули нос вверх вместо того, чтобы опустить. Самолёт вошёл в сваливание. Некорректные показания скорости длились не больше минуты из четырёх минут снижения. 228 человек погибли. В итоговом отчёте BEA указано: экипаж так и не понял, что находится в режиме сваливания, и не предпринял ни одного манёвра для выхода из него.
Для разработчика история выглядит так же. Инструменты вроде Codex, Cursor и Claude Code уже превратились в автопилот для большинства: они генерируют функции, пишут тесты, объясняют незнакомые фрагменты кода, подбирают SQL. ИИ-агенты по умолчанию работают в режиме автономного агента, спроектированном так, чтобы разработчик как можно меньше вмешивался в процесс. Судя по росту использования этих режимов, большинство так и делает. Свободная голова не занимает себя более важными задачами — она просто перестаёт упражняться в том, что отдала агенту.
Разработчики, активно использующие ИИ-агентов (Claude Code, Cursor, Codex), теряют навыки чтения чужого кода, отладки без подсказок и понимания ошибок компилятора.
Конкретно атрофируется несколько навыков. Умение читать незнакомый код: когда агент объясняет каждый метод, навык самостоятельного разбора не нарабатывается. Отладка без подсказок: дебаггер либо не запускается вовсе, либо запускается только чтобы скормить вывод агенту; шаг «подумать, что могло пойти не так» пропускается. Понимание ошибок компилятора: их чаще скидывают агенту, не дочитывая до конца.
Проблема усугубляется спецификой ИИ-кода. В авиации отказ системы часто виден явно — по приборам или поведению самолёта. У разработчика таких индикаторов меньше. ИИ пишет уверенно вне зависимости от того, правильно ли он пишет; сгенерированный код выглядит корректным до тех пор, пока не перестаёт работать окончательно. Если модель ошибается в 1% случаев, а разработчик генерирует 200 фрагментов кода в день, то ошибки в коде будут ежедневно. Разработчик, полностью делегировавший написание кода, со временем теряет способность эти редкие ошибки замечать.
В отличие от пилотов, у которых есть требование минимального налёта вручную, для разработчиков таких нормативов нет. Джуниор, с первого дня пишущий код с помощью агента, минует этап понимания того, почему именно так работает система. Рабочий результат — это хорошо, но отсутствие понимания проявляется, когда агент генерирует нерабочий код и нужно разобраться самостоятельно.
Статья не призывает отказаться от ИИ-инструментов — автопилот в авиации спасает жизни. Однако разработчику нужна практика без «автопилота»: периодически отлаживать проблемы самостоятельно, делать code review до того, как просить агента объяснить чужой код, иногда писать небольшие задачи с нуля. Исследования automation bias (Parasuraman & Manzey, Human Factors, 2010) показывают, что деградация ручных навыков при высоконадёжной автоматизации начинается быстрее, чем интуитивно кажется, и только ускоряется со временем.
