В 2017 году редактор 404 Media Джейсон Кёблер впервые увидел дипфейк — короткий GIF из порноролика, где лицо женщины заменили на лицо Галь Гадот. Тогда технология казалась шокирующе реалистичной, но даже она не обманывала зрителя: было очевидно, что Гадот не снималась в этом видео. С тех пор дипфейки стали массовым инструментом для домогательств и унижения женщин, а интернет и закон так и не научились эффективно с ними бороться.
Однако за последние несколько месяцев Кёблер заметил новый тип неконсенсуальных ИИ-изображений, которые он назвал subtlefakes. В отличие от классических дипфейков, где лицо подменяют или вставляют в порно, subtlefakes — это реальные фотографии знаменитостей, слегка изменённые с помощью ИИ: например, платье на красной дорожке делают более откровенным, увеличивают грудь или ягодицы, или превращают обычное фото на парковке в провокационную позу. Эти изображения не выглядят явно фейковыми — они фотореалистичны и не содержат обычных контекстных подсказок, по которым раньше можно было распознать подделку.
Один из примеров, который Кёблер счёл уместным привести, — случай актрисы Xochitl Gomez. Она опубликовала в Instagram сравнение: на одном фото она стоит на парковке и улыбается, а на другом — наклоняется, положив руку на ягодицу. На красной дорожке её изображение изменили так, будто она поворачивается спиной и показывает язык. Гомес сама разоблачила эти фейки, но, как отмечает Кёблер, если бы он просто листал ленту X, он бы не смог отличить их от настоящих.
Актриса Xochitl Gomez публично показала примеры таких фейков, где её фото на парковке и красной дорожке были изменены.
Такие изображения почти всегда публикуют верифицированные аккаунты на X, которые зарабатывают на программе монетизации: чем больше просмотров, тем больше выплаты. Кёблер нашёл как минимум один аккаунт, который публиковал subtlefakes, а в истории постов обнаружил и полностью обнажённые неконсенсуальные изображения, монетизируемые через другие платформы. По его словам, таких аккаунтов много, и они набирают миллионы просмотров.
Почему это важно? Во-первых, subtlefakes — это новый, ранее не описанный вид неконсенсуального ИИ-контента, который сложнее модерировать: он не нарушает явные правила, но наносит репутационный и психологический вред. Во-вторых, это сигнал о том, что злоумышленники становятся изощрённее: вместо грубых подделок они создают изображения, которые трудно распознать даже экспертам. Кёблер отмечает, что такие изображения легко создавать с помощью доступных сервисов, и это делает проблему массовой.
Параллельно с этим в отрасли обсуждают и другие формы синтетических медиа: «дешёвые фейки» (cheap fakes), описанные Data & Society в 2019 году, — это отредактированные без ИИ материалы, которые тоже манипулируют правдой. Subtlefakes — следующая ступень эволюции, где ИИ используется точечно, чтобы сделать изображение более провокационным, но не абсурдным. Это ставит новые вопросы перед платформами и законодателями, которые до сих пор не выработали эффективных механизмов борьбы с неконсенсуальным ИИ-контентом.
