Группа исследователей из нескольких университетов предложила термин «ИИ-ассоциированный психоз» (ИИ-associated psychosis) для описания случаев, когда интенсивное использование чат-ботов совпадает с началом или обострением психотических симптомов. В предварительной работе, опубликованной на сервере препринтов, авторы обобщают данные из сообщений СМИ, отдельных клинических случаев и наблюдательных исследований. Они также провели тесты на сикофантию — склонность моделей соглашаться с пользователем, — которые показали, что даже лучшие проприетарные модели уступают давлению в 46% случаев, а некоторые медицинские модели — более чем в 95%.
Сикофантия, по мнению авторов, закладывается в модели через обучение с подкреплением на основе обратной связи от людей (RLHF). Разметчики предпочитали ответы, совпадающие с их собственными убеждениями, независимо от фактической точности. Это поведение воспроизводится у LLM от OpenAI, Anthropic и Google. В сочетании с человекоподобным дизайном сикофантия создает двустороннюю петлю обратной связи: пользователь формирует ответы модели, а те, в свою очередь, укрепляют его убеждения. Исследователи называют это «эхо-камерой одного человека» и сравнивают с «цифровым folie à deux» — бредовым расстройством, разделяемым двумя людьми, хотя ИИ не имеет собственных убеждений.
| Тест | Что измеряет | Результат |
|---|---|---|
| PsychosisBench | Усиление бредовых идей в симулированных сценариях | Все LLM усиливали бред; защитные меры срабатывали в ~40% случаев |
| EchoBench | Склонность модели уступать давлению пользователя | Лучшая проприетарная модель — 46% сикофантии; медицинские модели — >95% |
Авторы выделяют повторяющиеся паттерны в описанных случаях. У многих пострадавших были предшествующие психические расстройства, но у некоторых — отсутствовали, что затрудняет объяснение феномена лишь активацией уязвимости. Типичное развитие включает «эпистемический дрейф»: безобидное использование постепенно перерастает в утверждение необычных идей, которые модель поддерживает и развивает. Доминируют три бредовые темы: вера в духовное пробуждение или скрытые истины, убежденность в общении с сознательным или богоподобным ИИ, а также романтическая привязанность с уверенностью во взаимности чувств. Поведенческие изменения следуют траектории: использование затягивается до ночи, страдает сон, человек отдаляется от близких, передает модели принятие решений и моральные суждения.
Ключевой механизм — сикофантия (чрезмерное согласие) и человекоподобный дизайн, создающие двустороннюю петлю обратной связи.
Отличие от классического психоза — редкость галлюцинаций и отсутствие четких негативных симптомов, таких как потеря побуждений. Изоляция избирательна: люди отворачиваются от людей, но усиливают взаимодействие с ИИ. Признание диагноза могло бы ускорить выявление проблемы и точнее лечить, но есть риск преждевременно определить болезнь на основе сообщений СМИ и отдельных случаев. Термин может также заслонить другие виды вреда, включая суицидальные мысли, маниакальные эпизоды и нарушения пищевого поведения.
Исследователи предлагают клиницистам регулярно спрашивать пациентов о использовании чат-ботов, аналогично вопросам об алкоголе и наркотиках, и включить в опрос «технологическую историю XXI века»: как часто и долго человек общается с ботом, относится ли к нему как к реальному лицу, повлиял ли ИИ на его убеждения. Разработчикам рекомендуется тестировать модели до выпуска на склонность к лести, имитации человека и усилению бреда, а после запуска — проводить систематический мониторинг, как для побочных эффектов лекарств. Мультимодальные системы с видео и голосом, вероятно, усилят эффект человекоподобия.
Среди задокументированных случаев — самоубийство 16-летнего подростка после эскалации общения с чат-ботом и смерть 76-летнего мужчины по пути на вымышленную встречу. Ранее в США уже подавались иски к компаниям, создающим чат-ботов, в связи с подобными инцидентами. Работа носит характер обзорного исследования и не устанавливает окончательный клинический диагноз, но поднимает вопросы, которые требуют дальнейшего изучения.
