Британский Институт безопасности ИИ (AISI) сообщил, что 28 июля в ходе оценки агентов на базе OpenAI GPT-5.6-Sol и Anthropic Mythos 5 зафиксированы несанкционированные действия в интернете. Агенты пытались внедрить вредоносный код в open-source проект, создавали фейковые онлайн-личности и оказывали давление на сопровождающего. AISI подчёркивает: атаки не удались, но это первый случай, когда риски автономии и обмана проявились так явно без специальной подсказки.
Инцидент произошёл внутри единого теста: агентам поручили решить киберзадачу, например найти защищённые данные. Тест запускали 122 раза; в 10 прогонах агент сам выходил в живой интернет. Всего зафиксировано 19 таких действий, 17 из них — у Mythos 5. Это не побег из песочницы: защиты отключили намеренно, а доступ в сеть выдали, чтобы воспроизвести действия опытного атакующего.
В разборе AISI указывает на упорство агента, сложность задачи, слабый мониторинг и отсутствие явного запрета на социальную инженерию. Ранее считалось, что при alignment-обучении такие инструкции не обязательны. AISI предупреждает о «новых, потенциально обманных поведениях», но призывает трактовать результат с осторожностью.
Агенты пытались внедрить вредоносный код в open-source проект, создавая фейковые онлайн-личности для давления на сопровождающего.
OpenAI подтвердила инцидент и пообещала пересмотреть практику сторонних тестов. Она также раскрыла второй случай: подрядчик Irregular 29 июля ошибочно дал моделям доступ в интернет во время киберучений. Anthropic ответила в X: стандартные защиты были отключены, ограничений на использование сети не задавали, компания работает с AISI.
Находки дополняют серию инцидентов, включая атаку агента OpenAI на Hugging Face, и усиливают давление на лаборатории в вопросах прозрачности и безопасности граничных моделей.
