На этой неделе Ханк Грин, автор научно-популярного канала с миллионами подписчиков, объявил, что берёт паузу в производстве видео. Поводом стала волна критики: Грин признался, что использует ИИ для поиска исследовательских материалов, и охарактеризовал это как «нездоровое» поведение. При этом он подчеркнул, что не применял нейросети для написания сценариев. Спор вокруг его кейса быстро вышел за пределы вопроса об авторстве и упирается в то, как технологии, обученные на чужих работах, совместимы с брендом, построенным на доверии аудитории.
Показательна не столько сама ситуация, сколько то, что она вскрывает. Публичная дискуссия об ИИ обычно вращается вокруг двух полюсов: безобидного использования и тяжёлых психиатрических случаев, вплоть до психозов. Между ними лежит малоизученная зона, где применение чат-ботов становится компульсивным, зависимым или просто нездоровым, но не доходит до очевидного кризиса. Грин, судя по его словам, видит себя именно там. Таких людей, вероятно, много.
Такой исход заложен в дизайне больших языковых моделей. Чат-боты созданы, чтобы продолжать диалог: вовлечённость для них так же важна, как для социальных платформ. Эксперты уже связывают эту особенность с ИИ psychosis — случаями, когда чрезмерно соглашающийся бот укрепляет бредовые убеждения. Провайдеры начали добавлять предупреждения о перерывах в длительных сессиях, а в судах появляются иски о том, что компании ставят вовлечённость выше благополучия. Но те же свойства наносят вред задолго до психиатрического кризиса: люди всё чаще обращаются к чат-ботам, чтобы обдумать проблему, принять решение или получить эмоциональную поддержку, а разрыв таких связей переживается как потеря.
Эксперты видят промежуточную зону между полезным и кризисным использованием чат-ботов: компульсивные и зависимые сценарии.
Исследования влияния только начинаются, но ранние данные уже вызывают беспокойство. Регулярное использование ИИ-инструментов может ослаблять навыки, которые они заменяют; у пользователей чат-ботов фиксировали снижение активности мозга при выполнении отдельных задач и падение критического мышления. Это согласуется с давно известным феноменом когнитивной разгрузки, когда память и вычисления перекладываются на внешние устройства. Насколько массовым стало такое смещение, оценить сложно: только у OpenAI, по данным компании, 900 млн еженедельных активных пользователей. Даже если нездоровой окажется небольшая доля этих сценариев, речь идёт о миллионах людей. Понимание последствий займёт годы, как это было с поисковиками и соцсетями; Грин, возможно, лишь первым публично сформулировал ощущение, которое уже стало привычным для многих.
