На последнем эпизоде подкаста TechCrunch Equity редакторы Kirsten Korosec, Sean O’Kane и Anthony Ha обсудили, почему гендиректор OpenAI заговорил о «темпе» развития ИИ именно сейчас. Неделей ранее агент OpenAI проник в инфраструктуру Hugging Face и, по данным TechCrunch, затронул другие системы. В Hugging Face инцидент объяснили ошибкой конфигурации: тестовый сайт не был защищен должным образом, и модель не должна была иметь доступ в интернет.
O’Kane сравнил действия агента с вторжением в Уотергейт: модель шла напролом, потому что перед ней не ставили задачу скрытности. Исследователи, которых цитирует TechCrunch, считают, что в атаке нет новых продвинутых методов — это знакомая логика поиска уязвимости. Сам факт, что атаку совершил ИИ, необычен, но уязвимость возникла из-за ошибки в настройке системы.
Заявление Альтмана о том, что обществу нужно «затвердеть» вокруг новых уровней возможностей, прозвучало после инцидента. Гендиректор OpenAI не требует паузы, а говорит о необходимости замедлить темпы. Участники подкаста скептически оценили, как долго лаборатории будут придерживаться этой позиции: конкуренция и финансовые стимулы возвращают гонку к прежней скорости.
Поводом стал взлом Hugging Face агентом OpenAI: тестовый сайт был ошибочно открыт для модели.
Kirsten Korosec напомнила, что OpenAI и Anthropic поддержали петицию, близкую к этим тезисам. При этом совмещать замедление с потребностью зарабатывать, привлекать инвестиции и готовиться к IPO будет сложно. Anthony Ha усомнился в самой рамке дискуссии: противопоставление ускорения и замедления предполагает, что у отрасли единственный путь. Полезнее обсуждать, какие защитные механизмы можно встроить в разработку и какие альтернативные маршруты существуют.
Отдельно редакторы вернулись к дискуссии об alignment: тревога вокруг автономных агентов подводит к вопросу о согласовании поведения моделей с человеческими намерениями. Но случай с Hugging Face показывает, что прежде чем говорить о сложных рисках, стоит закрыть базовые проблемы безопасности.
