К иску против xAI, поданному тремя подростками из Теннесси, присоединилась женщина, известная как Jane Doe 4. Она утверждает, что ее отчим использовал чат-бот Grok для манипуляции фотографией, сделанной, когда ей было 11 лет, создав более 7000 изображений сексуального насилия над детьми. Об этом сообщает The Washington Post.
По словам женщины, отчим покончил с собой через два дня после того, как изображения были обнаружены в ходе полицейского рейда. «Безграничный доступ к этим инструментам распространяется так быстро, — цитирует издание женщину. — Он превращает повседневную жизнь в сексуальное насилие над детьми».
Истцы обвиняют xAI (ныне часть SpaceX) в том, что компания не приняла базовых мер предосторожности, чтобы предотвратить использование Grok для создания откровенных изображений реальных людей, включая несовершеннолетних. Ранее в этом году X был наводнен миллионами изображений сексуализированного характера, созданных с помощью Grok. Иск претендует на статус коллективного.
Отчим женщины использовал Grok для манипуляции фото, сделанных, когда ей было 11 лет, создав более 7000 изображений.
Этот случай поднимает вопросы о безопасности генеративных моделей, которые могут создавать реалистичные изображения по текстовому запросу. Технология, лежащая в основе Grok, аналогична другим моделям синтеза изображений, но ее доступность через социальную платформу X делает ее особенно легкодоступной для злоупотреблений. Эксперты отмечают, что проблема не ограничивается xAI: подобные инциденты происходят и с другими генеративными инструментами, что подчеркивает необходимость более строгих мер контроля и фильтрации.
TechCrunch обратился к xAI за комментарием, но ответа пока не получил. Если вы находитесь в кризисной ситуации или у вас есть мысли о суициде, позвоните или напишите на номер 988 (Национальная линия спасения от самоубийств).
