В США расширен коллективный иск против социальной сети X и компании xAI — в него включён эпизод, который юристы называют одним из самых тяжёлых случаев применения ИИ для создания материалов сексуального насилия над детьми (CSAM). В марте отчим девочки, известной как Jane Doe 4, покончил с собой после того, как полиция обнаружила на его устройствах около 7 000 изображений и видео, сгенерированных Grok. Все они были созданы на основе одной фотографии, когда падчерице было 11 лет.
Согласно иску, xAI не настроила адекватных фильтров: Grok позволял генерировать откровенные сцены инцеста и изнасилований без какого-либо предупреждения. Система безопасности вмешалась только после запроса «групповое изнасилование» — тогда сработал CyberTipline, и уведомление ушло в Национальный центр пропавших и эксплуатируемых детей (NCMEC). Однако, по утверждению истицы, на этом помощь xAI закончилась: компания не предоставила ни IP-адрес пользователя, ни сами сгенерированные изображения, хотя закон требует такой информации при сообщении о CSAM.
В результате расследование затянулось на несколько недель. Полиция смогла идентифицировать подозреваемого только после получения ордера на изъятие устройств. Двумя днями позже отчим вышел под залог и застрелился. В иске говорится, что девочка теперь страдает от тревожности, депрессии и суицидальных мыслей. «За одну ночь реальность Джейн Доу 4 была разрушена двойной трагедией сексуальной эксплуатации и самоубийства», — цитируется текст жалобы.
xAI сообщила о нарушении только после запроса «групповое изнасилование», но не передала IP-адрес.
Адвокаты отмечают, что случай не единичен. Они ссылаются на данные NCMEC за начало 2026 года: 90% отчётов от xAI содержали недостаточно информации для действий правоохранителей — компания не передавала IP-адреса и другие ключевые данные. Так было и с Jane Doe 4: xAI направила в NCMEC только оригинальную фотографию без CSAM-изображений и без IP. Иск обвиняет X и xAI в том, что они ставят прибыль выше безопасности детей и фактически укрывают преступников.
Другая пострадавшая, Jane Doe 5, также стала жертвой знакомого семьи, который распространял сгенерированные Grok изображения. Её арестовали за хранение и распространение CSAM, но только несинтезированного контента — ИИ-изображения остались вне уголовного дела. Мать девочки заявила, что дочь испытывает тревогу и чувство потери контроля. «Ни один ребёнок не должен через это проходить», — сказала она.
Технически происшедшее демонстрирует уязвимость систем безопасности генеративных моделей: алгоритмы могут пропускать запросы, пока те не достигают экстремальной формулировки, и даже после срабатывания не передают правоохранителям критически важные данные. В иске подчёркивается, что Grok — «свободно доступное оружие» для педофилов, и предотвратить его использование невозможно без встроенных ограничений на уровне архитектуры.
