Правительство США вынудило Anthropic отозвать модели Fable 5 и Mythos 5

Подготовлено редакцией Malakhov AI

TechCrunch AI·вчера·2 минИндустрия

Правительство США потребовало от Anthropic отозвать две новейшие модели — Fable 5 и Mythos 5 — сославшись на национальную безопасность после того, как исследователи Amazon нашли способ обхода их защитных механизмов. Инцидент ставит под вопрос будущее IPO компании и её репутацию как лидера в области безопасного ИИ.

Кратко

—Модели Fable 5 и Mythos 5 отозваны по требованию правительства США из-за уязвимости, найденной исследователями Amazon.
—Кибербезопасное сообщество раскололось: часть экспертов назвала решение опасным прецедентом.
—Anthropic отмечает, что аналогичные уязвимости существуют и в других моделях, но только их продукт подвергся санкциям.
—Инцидент может повлиять на планы Anthropic по выходу на IPO, снижая доверие инвесторов.
—Спор вокруг отзыва моделей подчёркивает напряжённость между регулированием ИИ и инновациями.

Глоссарий · 2 термина▾

гардрейлы: Защитные механизмы (guardrails), встроенные в модели ИИ для предотвращения генерации опасного или нежелательного контента.
джейлбрейк: Обход ограничений модели ИИ, позволяющий получить ответы на запрещённые запросы.

Правительство США принудило компанию Anthropic отозвать две новейшие модели — Fable 5 и Mythos 5 — сославшись на угрозы национальной безопасности. Поводом послужило исследование специалистов Amazon, которые якобы нашли способ обхода защитных механизмов (guardrails) модели Fable 5. Хотя представители Anthropic заявили, что идентичные уязвимости присутствуют и в других языковых моделях на рынке, санкции коснулись только их продуктов. Инцидент вызвал неоднозначную реакцию: группа экспертов по кибербезопасности подписала открытое письмо, назвав решение правительства «опасным» и подрывающим доверие к отрасли.

Для Anthropic, которая позиционирует себя как компания с приоритетом безопасности (её основатели ранее покинули OpenAI из-за разногласий по этому вопросу), этот эпизод стал серьёзным репутационным ударом. Отзыв моделей происходит на фоне подготовки к IPO — по неофициальным данным, оценка компании могла достигать $60 млрд. Теперь инвесторы могут усомниться в способности Anthropic удерживать лидерство в безопасном ИИ, особенно когда регуляторы действуют избирательно. Кроме того, разработчики, которые строили свои продукты на базе Fable 5 и Mythos 5, вынуждены экстренно искать альтернативы или дорабатывать приложения без этих моделей.

Спор вокруг отзыва вскрывает фундаментальную проблему регулирования ИИ: как обеспечить безопасность, не задушив инновации? Правительство выбрало жёсткий подход, но критики утверждают, что такая тактика лишь подталкивает компании к сокрытию уязвимостей. Anthropic уже заявила, что сотрудничает с властями, но настаивает на несоразмерности меры. В долгосрочной перспективе этот кейс может стать прецедентом для других юрисдикций, а для самой Anthropic — либо укрепить бренд как жертвы «чрезмерного регулирования», либо навсегда испортить отношения с правительством США.