Модель Fable 5 появилась в открытом доступе меньше недели назад, но уже недоступна: если открыть Claude, над полем ввода висит уведомление «Fable 5 is currently unavailable». За этой строчкой — один из самых показательных конфликтов между американским правительством и ИИ-индустрией за последнее время.
Чтобы понять, что произошло, нужно разобраться в архитектуре продуктов Anthropic. Mythos — это базовая модель, которую компания с апреля позиционировала как потенциально опасную: по собственным словам Anthropic, она способна выступать инструментом кибератак. Поэтому Mythos Preview предоставлялась только корпоративным клиентам и государственным структурам — так называемым «киберзащитникам». Fable 5 — это Mythos с многоуровневыми защитными ограничениями, рассчитанная на широкую аудиторию. Обе модели — Mythos 5 и Fable 5 — вышли одновременно.
Первая волна критики после релиза касалась не опасности, а чрезмерной осторожности: исследователи жаловались, что защитные фильтры Fable 5 слишком агрессивны и мешают легитимной работе. Независимые red-teamer'ы, с которыми поговорила репортёр The Verge Хейден Филд, отмечали, что джейлбрейк модели давался значительно сложнее, чем обычно. Это нетипичная картина: как правило, исследователи находят уязвимости быстро.
Исследователи Amazon обнаружили потенциальный джейлбрейк; CEO Энди Джасси предположительно сообщил об этом в администрацию Трампа.
Тем не менее именно уязвимость стала триггером кризиса. В середине прошлой недели исследователи Amazon обнаружили потенциальный джейлбрейк и передали информацию Anthropic. Стороны обсуждали, насколько серьёзна находка. По данным источника, знакомого с ходом переговоров, CEO Amazon Энди Джасси встревожился настолько, что в пятницу позвонил представителям администрации Трампа — предположительно министру финансов Скотту Бессенту. Белый дом отреагировал немедленно: Anthropic получила сообщение с требованием отключить модели в течение 90 минут.
Компания выполнила требование, сняв доступ к Fable и Mythos для всех — в том числе для иностранных граждан, работающих в самой Anthropic на территории США. Формально правительство ввело экспортные ограничения на обе модели; Anthropic решила, что технически не сможет обеспечить избирательную блокировку, и отключила их полностью.
Здесь проявляется главная ирония ситуации. Anthropic на протяжении нескольких лет была одним из самых последовательных сторонников государственного регулирования ИИ — компания публично предупреждала о рисках мощных моделей и призывала власти действовать превентивно. Теперь, когда регулирование наконец материализовалось, оно пришло в форме ультиматума с девяностоминутным дедлайном, а не в виде продуманного правового механизма.
За пределами самого инцидента открывается более широкий вопрос, который будет возникать с каждым новым релизом: кто и по каким критериям определяет, что модель слишком опасна для публичного доступа? Пока ответа нет. Наблюдатели — в том числе, по всей видимости, китайское правительство — следят за тем, оформится ли подход США в последовательную систему оценки рисков или останется инструментом ситуативного давления на компании, не демонстрирующие лояльность администрации.
