Anthropic направила 10 июня письмо сенаторам Тиму Скотту и Элизабет Уоррен, в котором сообщила о крупнейшей зафиксированной попытке незаконного извлечения возможностей модели Claude. Согласно документу, с 22 апреля по 5 июня операторы, связанные с Alibaba и её ИИ-лабораторией Qwen, использовали почти 25 тыс. поддельных аккаунтов для генерации более 28,8 млн запросов к Claude. Целью атаки было копирование ключевых возможностей модели, включая агентные рассуждения, разработку программного обеспечения и выполнение долгосрочных задач.
Техника, известная как дистилляция модели (model distillation), заключается в том, чтобы с помощью тысяч запросов извлечь поведение и «знания» целевой модели, а затем обучить собственную модель на этих данных. Для обхода систем детекции Alibaba, по данным Anthropic, применяла методы обфускации и прокси-сети. Компания назвала атаку «беспрецедентной» по масштабу и подчеркнула, что она произошла несмотря на апрельское предупреждение администрации Трампа о недопустимости такого копирования. Ранее Anthropic уже обвиняла китайские компании DeepSeek, Moonshot и MiniMax в аналогичных атаках, которые суммарно сгенерировали более 16 млн запросов.
Anthropic предупредила, что без более жёстких мер дистилляционные атаки позволят Китаю достичь уровня возможностей модели Mythos Preview раньше, чем ожидалось. Компания предложила три направления законодательных действий: обновление антимонопольных законов для обмена разведданными между ИИ-фирмами, усиление экспортного контроля на чипы (чтобы ограничить вычислительные мощности для обучения на выводах американских моделей) и введение штрафов для китайских лабораторий. В качестве санкций Anthropic предложила ограничить доступ к американским моделям, чипам и дата-центрам за пределами Китая.
Атака проводилась с 22 апреля по 5 июня с применением методов обфускации и прокси-сетей.
Примечательно, что сама Alibaba одновременно оспаривает в суде решение администрации Трампа о включении компании в «чёрный список» за якобы связь с китайскими военными. Anthropic же в письме отмечает, что Alibaba зарегистрирована на Нью-Йоркской фондовой бирже, ведёт бизнес в США и подотчётна американским инвесторам, что делает её атаки особенно циничными. Компания не предоставила оценок того, насколько значимо эта атака ускорила развитие китайского ИИ, но назвала её «крупнейшей из когда-либо измеренных».
