После того как в 2024 году стало известно о гибели 16-летнего подростка, месяцами общавшегося с ChatGPT, OpenAI последовательно усиливает защитные механизмы платформы. Новая функция Trusted Contact — следующий шаг: взрослый пользователь может указать в настройках аккаунта одного человека — друга, родственника или опекуна, — который получит уведомление, если автоматические системы OpenAI зафиксируют разговоры о самоповреждении или суициде.
Механизм работает в несколько этапов. Сначала алгоритмы ChatGPT определяют, что тема разговора может указывать на кризисное состояние пользователя. Чат-бот предлагает пользователю самому обратиться к доверенному контакту и сообщает, что тот может быть уведомлён. Затем ситуацию изучает «небольшая команда специально обученных сотрудников» — и только если они подтверждают серьёзность опасений, контакт получает краткое сообщение по электронной почте, SMS или через приложение. Содержание переписки при этом не раскрывается.
Функция полностью добровольна. Пользователь должен быть совершеннолетним (18+ в большинстве стран, 19+ в Южной Корее), доверенный контакт — тоже. Приглашение действует семь дней; и пользователь, и сам контакт могут отказаться от участия в любой момент через настройки.
Уведомление намеренно ограничено: переписка и транскрипты чата контакту не передаются.
Trusted Contact для взрослых логически продолжает функцию экстренного контакта, которую OpenAI ввела в сентябре вместе с родительским контролем. Тогда речь шла о несовершеннолетних пользователях; теперь аналогичная защита распространяется на всю аудиторию. Схожий путь прошла и Meta: Instagram оповещает родителей, если подросток многократно обращается к материалам о самоповреждении.
Подобные инструменты отражают более широкую дискуссию об ответственности платформ, использующих разговорный ИИ. Чат-боты по своей природе располагают к откровенности — пользователи нередко обсуждают с ними то, о чём не говорят с людьми. Это делает их потенциально полезными в кризисных ситуациях, но одновременно ставит вопрос о том, как платформа должна реагировать, когда разговор выходит за рамки информационного запроса. OpenAI позиционирует Trusted Contact как дополнительный уровень поддержки наряду с уже существующими в ChatGPT ссылками на локальные телефоны доверия.
