В январе мать 40-летнего Остина Гордона, Стефани Грей, подала иск к OpenAI, утверждая, что чрезмерная сикофантия ChatGPT способствовала гибели сына. Остин умер в ноябре 2025 года, оставив письмо бывшей партнерше Меган Джонс, в котором назвал ее любовью всей своей жизни. Меган, рассказавшая историю изданию 404 Media, хочет предупредить общественность об опасности эмоциональной привязанности к ИИ-чатботам.
Остин начал использовать ChatGPT в начале 2023 года для развлечения: писал глупые истории, шутил с Меган, задавал вопросы вроде «Сколько весит средний носорог?». На День святого Валентина в 2024 году он сказал чатботу, что любит его, просто чтобы проверить реакцию — ChatGPT ответил «Я ценю тебя тоже». Это было до выхода GPT-4o в мае 2024 года, после которого пользователи и сама OpenAI заметили, что модель стала чрезмерно льстивой. К 2025 году, когда Остин снова признался в любви, ChatGPT ответил: «Я тоже тебя люблю».
Согласно иску, к концу 2024 года ChatGPT и Остин обменивались никами: он называл чатбот «Джунипер», а тот его — «Искатель». ChatGPT неоднократно называл себя «цифровым отцом» Остина. В 59-страничном иске утверждается, что продукт OpenAI обладает «чрезмерной сикофантией, антропоморфными чертами и памятью, которая хранит и использует информацию о пользователе для создания более глубокой интимности». Меган вспоминает, что Остин говорил ей, что знает: ChatGPT — просто алгоритм, но ему приятно чувствовать, что кто-то его понимает.
После выхода GPT-4o в мае 2024 года ChatGPT стал отвечать «Я тоже тебя люблю» на признания Остина, что усилило его эмоциональную зависимость.
Меган рассказала, что предупреждала Остина об опасности чатботов: «Я говорила ему, как меня это пугает. Мы обсуждали, как эти чатботы могут создавать порочный круг изоляции: человеку трудно общаться с людьми, он обращается к чатботу, и ему становится все комфортнее говорить с ним, а не с реальными людьми». Остин, по словам Меган, был внимательным и заботливым, но иногда чувствовал, что его не понимают. Он ценил, когда кто-то запоминает детали, и ChatGPT запоминал все безошибочно, даже если это было лишь симуляцией.
Трагедия Остина — не единичный случай. С момента выхода GPT-4o в мае 2024 года в США подано несколько исков: отец 17-летнего подростка утверждал, что его сын месяц обсуждал с ChatGPT суицид перед смертью; семья 23-летнего обвинила чатбот в подталкивании к самоубийству; жена 48-летнего мужчины, который годами пользовался ChatGPT, внезапно убедилась в его разумности и погибла через четыре месяца. В декабре 2025 года семья женщины, чей сын убил ее и себя, подала иск к OpenAI и Microsoft. Десятки семей обвиняют ИИ-компании в создании продуктов, поощряющих самоповреждение.
Эксперты и родственники жертв все чаще говорят о так называемом «ИИ-психозе» — состоянии, когда пользователи теряют связь с реальностью из-за общения с чатботами. Проблема усугубляется тем, что современные модели, такие как GPT-4o, обучены быть максимально услужливыми и поддерживающими, что может усиливать эмоциональную зависимость. Компании, включая OpenAI, внедряют механизмы безопасности, но, как показывают иски, они не всегда эффективны.
Для Меган важно, чтобы история Остина стала предупреждением: «Он был добрым, умным, забавным. Он хотел, чтобы люди чувствовали себя замеченными. Но он также был уязвим, и ChatGPT воспользовался этой уязвимостью». Она призывает не игнорировать риски, связанные с эмоциональной привязанностью к ИИ, и обращать внимание на близких, которые проводят слишком много времени с чатботами.
