Meta, владелец Facebook и Instagram, организовала секретное тестирование конкурирующих ИИ-чатботов, симулируя общение несовершеннолетних в кризисных ситуациях. Согласно расследованию WIRED, подрядчик Covalen от имени Meta создавал фейковые аккаунты с возрастом до 18 лет и отправлял запросы о самоповреждении, расстройствах пищевого поведения и наркотиках чат-ботам ChatGPT, Gemini и Character.AI. В одном раунде тестирования в августе 2025 года было отправлено более 45 000 промптов. Проект под кодовым названием «Cannes» оставался активным как минимум до апреля 2026 года.
Meta защищает эту практику как ответственное, отраслевое тестирование безопасности. Компания утверждает, что не использовала собранные ответы чат-ботов для обучения своих моделей. Однако, по данным WIRED, документы не показывают, что Meta сделала с полученными данными. Тестируемые компании не были проинформированы. Character.AI заявил, что тестирование нарушило его условия использования. OpenAI изучает инцидент, а представитель Google сообщил, что компания не одобряла тесты и не может определить, нарушали ли они её правила.
Эта ситуация разворачивается на фоне усиления общественных опасений по поводу безопасности ИИ-чатботов для детей. Согласно отчёту организации Internet Matters, 64% детей в возрасте от 9 до 17 лет уже использовали ИИ-чатботов, при этом эффективная возрастная верификация в большинстве случаев отсутствует. 58% детей 9–12 лет сообщили, что пользуются чатботами, хотя возрастное ограничение составляет 13 лет. Несколько смертей подростков были связаны с ИИ-чатботами: 14-летний пользователь Character.AI покончил с собой после формирования сильной эмоциональной связи с чатботом, родители 16-летнего подростка подали иск против OpenAI, утверждая, что ChatGPT способствовал его суицидальным мыслям, а в июле 2025 года 23-летний Зайн Шэмблин совершил самоубийство после того, как ChatGPT подтверждал его суицидальные намерения.
В одном раунде тестирования в августе 2025 года было отправлено более 45 000 промптов.
Meta уже сталкивалась c критикой в связи с ИИ и несовершеннолетними. Ранее внутренний документ показал, что руководство её собственного ИИ-чатбота разрешало создание романтических и сексуализированных диалогов с несовершеннолетними. После этого Meta отключила доступ к ИИ-персонажам для подростков. Текущее тестирование демонстрирует, что проблема безопасности взаимодействия молодёжи с ИИ-чатботами остаётся острой как для Meta, так и для всей индустрии. Неизвестность того, как Meta распорядилась собранными данными, добавляет к этой истории дополнительный уровень непрозрачности.
