В пятницу днём Министерство торговли США направило Anthropic письмо, в котором сослалось на норму экспортного контроля и запретило неамериканским гражданам — в том числе сотрудникам самой компании — получать доступ к моделям Fable 5 и Mythos 5. Anthropic в ответ отключила обе модели для всех клиентов без исключения, чтобы гарантировать соблюдение директивы. Письмо не было опубликовано, конкретные основания в нём не раскрываются.
Антропик предположила, что поводом послужил предполагаемый обход защитных фильтров модели — так называемый guardrail bypass. Согласно данным The Wall Street Journal, соответствующую исследовательскую работу подготовили специалисты по безопасности из Amazon. Кэти Муссурис, основательница Luta Security и ветеран отрасли кибербезопасности, сообщила в своём блоге, что Anthropic заранее передала ей копию этой работы для оценки. По её словам, описанный в бумаге метод сводится к разнице между запросами «проверь код на уязвимости» и «исправь этот код» — результат практически идентичен, а сам механизм «не может быть устранён без ущерба для защитных возможностей модели». Муссурис назвала директиву поспешной, непропорциональной и ошибочной.
Издание Axios, ссылаясь на источники, описало напряжённость между Anthropic и администрацией Трампа иначе: по этой версии, причиной стали не технические проблемы, а «личностные разногласия» между сторонами. Редактор Tech Policy Press Джастин Хендрикс заявил, что произошедшее «вероятно, вызовет тревогу в иностранных столицах относительно надёжности американского ИИ для критически важных приложений». Десятки исследователей в области безопасности уже призвали администрацию отозвать приказ, указав, что отключение продвинутых киберзащитных инструментов от сетевых защитников внутри США само по себе создаёт угрозу безопасности.
Anthropic предполагает, что поводом стал обход защитных фильтров модели, но письмо конкретных деталей не содержит и публично не опубликовано.
Прецедент здесь важнее конкретного инцидента. Администрация Трампа продемонстрировала, что может в одностороннем порядке, без судебного решения и без публичного обоснования вынудить американскую технологическую компанию отключить собственный продукт. Аналогичная история уже случалась в другом контексте: в 2010-х годах американское законодательство об экспортном контроле в сфере кибербезопасности было сформулировано настолько широко, что едва не криминализировало легитимные исследования уязвимостей. Тогда проблему в итоге удалось урегулировать — но лишь после значительного давления со стороны отрасли.
Остаётся открытым вопрос о мотивах. Администрация не подтвердила официально, почему была задействована норма экспортного контроля. Версии варьируются от ошибочной интерпретации исследовательского отчёта до целенаправленного давления на компанию, с которой у Белого дома давно непростые отношения. Независимо от ответа, прецедент создан: государство показало, что инструмент принудительного отключения существует и готово его применять.
