Anthropic заблокировала доступ к новейшим ИИ-моделям по требованию правительства США

Подготовлено редакцией Malakhov AI

The Verge AI·2 часа назад·2 минИндустрия

12 июня Белый дом обязал компанию Anthropic ограничить доступ к её новейшим моделям Fable 5 и Mythos 5 для всех иностранных граждан, включая сотрудников компании. Причиной стали опасения, что модели могут быть использованы для кибератак после того, как исследователи Amazon обнаружили уязвимости.

Кратко

—Anthropic отключила Fable 5 и Mythos 5 для всех пользователей после правительственного указа от 12 июня.
—Белый дом сослался на исследование Amazon, показавшее возможность взлома моделей для получения данных о кибератаках.
—Компания не согласна с решением, называя найденные уязвимости незначительными и доступными в других моделях.
—Запрет также затронул сотрудников Anthropic, имеющих иностранное гражданство.

Глоссарий · 3 термина▾

Jailbreak: Метод обхода ограничений ИИ-модели с помощью специально составленных запросов.
Дистилляция: Процесс обучения меньшей ИИ-модели на основе более мощной для имитации её поведения.
Экспортный контроль: Государственные ограничения на передачу технологий или данных иностранным лицам или странам.

12 июня правительство США издало директиву, требующую от Anthropic немедленно заблокировать доступ к двум её последним моделям — Fable 5 и Mythos 5 — для всех иностранных граждан. Anthropic выполнила требование, полностью отключив доступ для всех пользователей. Компания заявила, что не согласна с решением, так как считает выявленные уязвимости незначительными. В официальном заявлении Anthropic говорится: «Мы выполняем юридическое предписание правительства и удаляем доступ к

Это первый случай, когда правительство США принудительно отзывает коммерческую ИИ-модель из-за опасений национальной безопасности. Решение последовало после того, как Amazon провела исследование и сообщила Белому дому, что с помощью специальных запросов можно заставить Fable 5 выдать информацию, которая может быть использована для кибератак. Anthropic утверждает, что подобные уязвимости присутствуют и в других моделях, включая GPT-5.5. Показательно, что многие из исследователей Anthropic являются иностранцами, и теперь они не могут получить доступ к собственным разработкам.

Шаг правительства усилил опасения относительно зависимости от США в критических технологиях. Запрет также затронул сотрудников Anthropic, имеющих иностранное гражданство, которые не могут получить доступ к собственным разработкам. Кроме того, существуют сообщения, что опасения по поводу доступа Китая к моделям могли повлиять на решение, хотя Белый дом этого не подтвердил. Этот инцидент стал аргументом для тех, кто выступает за развитие национальных ИИ-проектов за пределами США, чтобы не зависеть от американского экспортного контроля.