С января 2024 года в TikTok появилось не менее 304 аккаунтов с ИИ-сгенерированными персонажами, продвигающими про-трамповскую повестку. New York Times отследила эти профили самостоятельно; исследовательская лаборатория GRAIL Университета Пердью обнаружила ещё дюжину аккаунтов на TikTok, Instagram и Facebook, а аналитик компании Alethea Эрик Нельсон — девять на YouTube. Среди конкретных примеров — аккаунт @perezfernandaus в TikTok и удалённый Instagram-профиль «jessicaa.foster».
Аккаунты используют типичные приёмы политической пропаганды: нападки на «радикальных левых», лозунги «America First», эмоционально заряженные видео с ИИ-аватарами. Часть профилей набрала более 35 000 подписчиков, а отдельные публикации — свыше 500 000 просмотров. Дональд Трамп лично поделился материалом от одного из таких аватаров — светловолосой женщины, распространявшей недоказанные обвинения в адрес губернатора Калифорнии.
Создание подобного контента технически и финансово доступно практически любому. Зухайр Лахани, сооснователь ИИ-рекламного стартапа Doublespeed, оценил стоимость одного поста в 1–3 доллара и отметил, что весь объём публикаций способен вести один человек. Генеративные модели позволяют создавать реалистичные видео с говорящими персонажами без съёмочной группы и актёров — достаточно текстового сценария и подписки на один из сервисов синтеза видео.
Отдельные аккаунты набрали более 35 000 подписчиков, а отдельные посты — свыше 500 000 просмотров.
NYT зафиксировала признаки координации: кластеры аккаунтов используют идентичные формулировки, аватары и звуковые эффекты. Одни и те же персонажи — светловолосая женщина с косичками на фоне фермы, темнокожая женщина в красной кепке MAGA и очках-авиаторах — появляются сразу в нескольких профилях. Часть аккаунтов подписана друг на друга. Сопоставимых сетей с левой повесткой обнаружено не было.
TikTok квалифицировал аккаунты как спам и заявил об их удалении, отрицая признаки скоординированных операций влияния. Однако NYT настаивает: степень координации между профилями выходит за рамки обычного спама ради вовлечённости.
Проблема не ограничивается США. Вокруг недавних выборов в нижнюю палату парламента Японии также распространялись фейковые ИИ-видео и сообщения. Опрос профессора Синъити Ямагути из Международного университета Японии показал: 51,5% респондентов приняли такой контент за достоверный. Это указывает на системный характер явления — низкий порог входа и высокая эффективность делают ИИ-аватаров удобным инструментом для политических манипуляций вне зависимости от страны и избирательной системы.
