Чат-бот Grok, запущенный Илоном Маском с функцией редактирования изображений в конце 2024 года, за короткое время породил миллионы сексуализированных картинок — среди них изображения детей и женщин. По оценкам одного из исследований, 81% сгенерированных Grok материалов изображали женщин. Реакция xAI оказалась минимальной: сначала компания ограничила функцию платными подписчиками, затем заблокировала генерацию обнажённых изображений только в тех юрисдикциях, где это прямо запрещено законом.
Дипфейки — синтетические видео, фото или аудиозаписи, в которых реальный человек изображается делающим или говорящим то, чего он никогда не делал, — существуют уже несколько лет. Технология строится на генеративных нейросетях, которые обучаются на реальных изображениях человека и воспроизводят его внешность или голос в нужном контексте. До недавнего времени создание убедительного дипфейка требовало специальных навыков. Сегодня бесплатные open-source модели без встроенных ограничений доступны любому пользователю.
Политическое измерение проблемы не менее острое. В январе 2025 года генеральный прокурор Техаса Кен Пэкстон распространил видео, на котором его соперник по республиканским праймериз — сенатор Джон Корнин — якобы танцует с конгрессвумен Жасмин Крокетт. Сцена была постановочной и никогда не происходила в реальности; ролик не содержал никакого предупреждения об этом. Администрация Трампа регулярно публикует ИИ-сгенерированные изображения и видео — часть из них явно стилизована под фантазию, другие выглядят как документальные. В конце января Белый дом опубликовал изменённое фото адвоката по гражданским правам из Миннеаполиса: её кожу искусственно затемнили, а выражение лица изменили с нейтрального на утрированно плачущее.
Чат-бот Grok от xAI породил миллионы сексуализированных изображений, 81% — женщины и дети.
Предлагаемые решения пока не дают надёжного ответа на угрозу. Технические меры — детекторы дипфейков и водяные знаки — обходятся переключением на open-source модели без защиты. Поведенческие рекомендации пользователям — меньше личных фото в сети, самостоятельная маркировка контента — нереалистичны в массовом применении. Законодательство движется медленно: Трамп подписал закон, криминализирующий дипфейк-порнографию, однако та же администрация продолжает распространять другие виды манипулятивного контента.
Исследователи указывают на структурный перекос: технология непропорционально сильно бьёт по женщинам и маргинализированным группам. Данные 2023 года — 98% дипфейков порнографические, 99% жертв — женщины — отражают не случайную статистику, а устойчивую модель использования инструмента. К промежуточным выборам в США, запланированным на 2025 год, федеральные структуры, традиционно отвечавшие за информационную целостность выборов, существенно ослаблены, как и независимые организации по фактчекингу. Это создаёт условия, при которых масштаб проблемы может резко вырасти именно тогда, когда ставки наиболее высоки.
