Правительство США ввело экспортный запрет на модель Mythos от Anthropic, способную автоматически обнаруживать критические уязвимости в кибербезопасности. Решение было принято после того, как компания начала более широкое распространение модели, первоначально ограниченной только для определённых американских организаций из соображений безопасности.
Mythos относится к классу моделей ИИ, специализирующихся на анализе кода и поиске брешей. Anthropic объявила о разработке в апреле, а затем в течение нескольких месяцев вела переговоры с правительственными чиновниками о контролируемом развёртывании. Несмотря на осторожный подход, критики, включая бывшего ИИ-царя Дэвида Сакса, утверждали, что компания преуменьшала риски. Сакс написал в X, что «заслуживающий доверия партнёр» предложил администрации способ обойти защитные меры, установленные для модели Fable, но Anthropic отмахнулась от этих опасений, что вынудило правительство «неохотно» ввести запрет.
Запрет стал кульминацией публичных столкновений между Anthropic и высокопоставленными чиновниками по вопросам использования технологии в слежке и смертоносном автономном оружии. В феврале Пентагон назвал Anthropic риском для цепочки поставок в сфере национальной безопасности, и компании пришлось оспаривать это обозначение в суде. Исследование YouGov показало, что большинство опрошенных американцев согласны с необходимостью эффективного регулирования, даже если оно замедлит технологический прогресс.
Компания первоначально ограничила доступ к модели для определённых организаций США, а затем выпустила шире.
Президент Франции Эмманюэль Макрон заявил, что спор вокруг Anthropic «прояснил ставки» для США и их союзников по G7, призвав «усилить регулирование искусственного интеллекта» и предупредив о риске «отсутствия сотрудничества между демократиями». Независимый исследователь политики в области ИИ Леннарт Хайм, ранее работавший в Rand, раскритиковал реакцию правительства, отметив, что администрация, которая позиционирует себя как проинновационная и поддерживает экспорт передовых ИИ-чипов в Китай, в то же время вводит запрет на самую продвинутую американскую модель.
История вокруг Mythos демонстрирует сложность баланса между инновациями и безопасностью. Технология, способная автоматизировать поиск уязвимостей, может быть использована как для защиты, так и для атак. Экспортный запрет — прецедент, который может повлиять на будущее регулирование других мощных моделей ИИ, особенно в области кибербезопасности. Вопрос о том, как контролировать распространение таких инструментов, остаётся открытым, а последствия этого решения будут ощущаться в индустрии ещё долго.
