Китайская группа Outsider Enterprise превратила Gemini в инструмент промышленного фишинга: по данным Google, сеть создала 9 000 поддельных сайтов и распространила более 1 млн вредоносных URL, а жертвам было отправлено свыше 2,5 млн SMS-сообщений. Google подала судебный иск и параллельно работает с правоохранительными органами и операторами связи.
Оутсайдер Enterprise действовала по модели «фишинг-как-услуга» (phishing-as-a-service): через Telegram-каналы группа предоставляла клиентам — людям без технических навыков — готовые инструкции и около 300 шаблонов мошеннических сайтов. Ключевым звеном схемы стал Gemini: злоумышленники использовали его для генерации страниц, визуально неотличимых от ресурсов Google, YouTube и государственных сервисов. Один из наиболее частых объектов имитации — система оплаты дорог E-ZPass штата Нью-Йорк. Пользователи получали SMS с сообщениями о проблемах с аккаунтом или недоставленной посылке, переходили по ссылке и оказывались на поддельном сайте, где вводили личные данные и банковские реквизиты.
| Показатель | Значение |
|---|---|
| Всего отправлено вредоносных SMS | более 2 500 000 |
| SMS за две недели прошлого месяца | 55 000 |
| Поддельных сайтов | 9 000 |
| Вредоносных URL | более 1 000 000 |
| Шаблонов мошеннических сайтов | около 300 |
| SMS, блокируемых Google Messages ежемесячно | 10 000 000 000 |
Масштаб операции хорошо иллюстрирует одна цифра: только за две недели прошлого месяца было зафиксировано 55 000 вредоносных сообщений. Сотни пользователей подтверждённо потеряли деньги, хотя общую сумму ущерба Google в иске не раскрывает.
За две недели в прошлом месяце было отправлено 55 000 SMS; всего — более 2,5 млн сообщений Android-пользователям.
Для противодействия сети Google привлекла трёх крупнейших американских операторов — AT&T, Verizon и T-Mobile — и совместно с ними заблокировала значительную часть рассылок. Дополнительным барьером стала встроенная в Google Messages функция обнаружения мошеннических сообщений на устройстве: по данным компании, она ежемесячно останавливает 10 млрд спам-SMS. Часть активности Outsider Enterprise, по всей видимости, была нейтрализована именно этим инструментом.
Случай показывает структурную проблему для всей отрасли генеративного ИИ: модели, обученные помогать с созданием текстов и веб-контента, одинаково эффективны как в легитимных, так и в мошеннических сценариях. Фишинг-как-услуга существовал и до появления LLM, однако генеративный ИИ резко снизил порог входа — теперь убедительный поддельный сайт может создать человек без каких-либо технических знаний. Иск Google — один из первых публичных прецедентов, когда крупная технологическая компания напрямую преследует группу, злоупотребляющую её собственной ИИ-моделью. Это сигнализирует о том, что разработчики ИИ начинают брать на себя часть ответственности за злоупотребления своими продуктами — хотя бы в форме судебного преследования.
