Когнитивный долг: как ИИ изменил управление интеллектуальным риском

Когнитивный долг — это разница между уровнем понимания результата, которым мы располагаем, и уровнем, необходимым для ответственности и риска, которые мы на себя приняли. Этот термин не из области ИИ: он описывает ситуацию, когда руководитель полагается на работу подчинённого, не проверяя каждую деталь. Например, аналитик Вася приносит двадцать слайдов для клиента, и вы решаете не перепроверять расчёты на 17-м слайде — это и есть взятие когнитивного долга.

Проблема известна давно. В 1995 году Майкл Дженсен и Уильям Меклинг описали экономическую конструкцию: знание нельзя бесплатно скопировать из одной головы в другую. Организация либо тратит время на передачу знания тому, кто принимает решения, либо передаёт право решения тому, кто уже обладает знанием. Второй вариант создаёт проблему контроля. Роберт Грант пошёл дальше, предложив рассматривать фирму как механизм интеграции специализированного знания. Из этого следует: распределённое понимание — норма, а не дефект. Долг начинается там, где организация теряет способность восстановить, проверить или применить знание.

В профессиональных услугах управление когнитивным долгом отточено десятилетиями. Партнёр консалтинговой фирмы не строит каждую модель сам, но клиент ожидает достаточного интеллектуального вовлечения старшего специалиста. В аудите этот подход формализован: партнёр подписывает заключение, опираясь на математически рассчитанную выборку и процедуры, учитывающие рискованность бизнеса и качество внутренних контролей. Важное следствие: долг может быть нулевым, даже если вы лично не знаете всех деталей, при условии, что расчёты воспроизводимы, допущения известны, источники доступны, а порядок действий при проблеме понятен.

ИИ изменил не природу когнитивного долга, а три его параметра. Первый — скорость: раньше производство результата занимало время, и младший специалист хотя бы частично понимал, что делает. Теперь модель может сгенерировать код или отчёт за минуты, но понимание того, что именно она сделала, не увеличивается автоматически. Второй — цена проверки: раньше проверка была дорогой, но предсказуемой; теперь она может быть дешевле, но менее надёжной, если проверяющий не знает, как работает модель. Третий — масштаб: ИИ позволяет производить больше результатов, но каждый из них несёт потенциальный долг, если не настроены процессы контроля.

Требуемое понимание растёт с последствиями ошибки, необратимостью решения, новизной, сложностью и непрозрачностью результата. Контролируемое понимание включает собственное понимание устройства результата, воспроизводимые расчёты, источники, документацию, проверки и тесты. ИИ не отменяет эти требования, но делает их менее очевидными: модель может выглядеть уверенно, но не иметь внутреннего понимания. Поэтому вопрос не в том, есть ли у нас когнитивный долг, а в том, сколько его и достаточно ли мы контролируем риск.

Для практиков это означает: при использовании ИИ нужно проектировать процессы проверки так же, как в аудите. Определять достаточную выборку для проверки, требовать воспроизводимости, документировать допущения. Иначе ИИ увеличит скорость производства результатов, но и накопит долг, который может оказаться неподъёмным. Теория менеджмента даёт инструменты, но их нужно адаптировать к новой реальности, где генеративные модели стали частью производственного процесса.