Anthropic раскрыла сеть из 28 дейтинг-приложений, где переписку вели ИИ-персоны

5 июня на конференции Sleuthcon по кибербезопасности выступил исследователь threat intelligence в Anthropic Крис Кронбо. Обычно компания не рассказывает публично о подобных расследованиях, но в этот раз показала разбор сети фейковых дейтинг-приложений. Толчком послужила аномалия в Claude: один предоплаченный аккаунт отправлял более 100 000 запросов к API в сутки. Позже Anthropic опубликовала выводы в разделе о мошенничестве в отчёте «Detecting and countering misuse of ИИ: September 2026».

Схема устроена так. Пользователь, чаще мужчина 35–40 лет, регистрируется в приложении, которое описывает себя как сервис для знакомств и «реальных знакомств рядом». Он получает совпадения с профилями женщин, но настоящих среди них примерно одна из четырёх. Этот реальный человек — не пользователь, ищущий пару, а наёмный исполнитель. Его задача — пройти проверку на «живость» по видео и вести соцсети. Содержание сообщений он не пишет: ему предлагают выбрать один из трёх заранее сгенерированных ответов. ИИ-персоны такой проверки пройти не могут, поэтому в ответ на просьбу о видеозвонке они находят правдоподобную причину отказа.

Именно на стыке живого исполнителя и ИИ строится доверие. Пользователь несколько раз сталкивается с настоящим человеком, после чего начинает верить, что и остальные ответы — от реальных людей. В отчёте Anthropic указано, что «бэкенд-компоненты фабриковали лайки, посетителей и предзаписанное „видео“, когда реального человека не было, и отслеживали, какие пользователи начали подозревать, что говорят с ботом».

В схеме задействованы модели разных поставщиков. Claude использовался для автономных разговорных персон, но короткие подсказки для исполнителей генерировала небольшая модель другого разработчика. Она же, по данным отчёта, отвечала за оценку привлекательности лиц и модерацию фото и голоса. Изображения аватаров создавала отдельная модель редактирования картинок.

Это не классический романтический скам. Здесь нет «одолженных» денег и криптовалюты. Мошенничество встроено в сами приложения: за продолжение переписки нужно покупать внутренние монеты, а монеты стоят реальных денег. Пользователь платит, чтобы говорить в основном с машинами, будучи уверенным, что общается с людьми. Наёмные исполнители поддерживают иллюзию, а ИИ обеспечивает круглосуточный поток сообщений, пока идут покупки монет.

Исследователь Мэттью «Zigula» Гор-Корманик изучал одно из таких приложений под названием Dora. Ему позвонила «Дженнифер» — по описанию 41-летняя женщина-Стрелец с рыжими волосами и пирсингом. В видеопотоке он не увидел человека: только двигавшийся гобелен, вероятно от вентилятора, и искажения звука. После звонка «Дженнифер» написала, что ей понравилось и что «твой голос намного лучше, чем я ожидала». Микрофон у Гор-Корманика подключён не был.

Приложения из сети описывали себя как сервисы для «тёплых и простых знакомств для взрослых, ищущих настоящую связь», и не выглядели как companion-сервисы вроде Replika, где ИИ-природа собеседника очевидна. На момент публикации разбора Anthropic многие из этих приложений оставались доступны в двух крупных магазинах приложений в США. Почему их не удалили, в отчёте не объясняется.

Для рынка ИИ этот случай показывает, как растёт цена misuse-аналитики. Компании, чьи модели работают через API, всё чаще вынуждены отслеживать не только отдельные вредоносные запросы, но и целые сети приложений, построенных на автоматизированных персонax. Для пользователя практический вывод простой: если сервис знакомств просит покупать монеты за продолжение переписки и избегает видеозвонков, это повод проверить, с кем именно идёт разговор.