Francis de Souza, операционный директор Google Cloud, в интервью TechCrunch на мероприятии в Лос-Анджелесе описал, как компании должны переосмыслить безопасность в эпоху ИИ. По его словам, время между первоначальным взломом и передачей управления следующему этапу атаки сократилось с 8 часов до 22 секунд. Это меняет правила игры: старые модели обороны, ориентированные на человека, больше не работают.
De Souza подчеркнул, что безопасность нельзя «прикрутить потом»: компании должны требовать защиты, управления и аудита от своих платформ с самого начала. Особую опасность представляет «теневое ИИ» — использование работниками потребительских инструментов без ведома организации. «Не существует ИИ-стратегии без стратегии данных и безопасности», — заявил он. Google Cloud, по его словам, придерживается мультиоблачного подхода, даже если компании думают, что работают в едином облаке: они всё равно полагаются на SaaS-приложения и бизнес-партнёров, использующих другие облака.
Ландшафт угроз расширился: помимо обычной инфраструктуры, необходимо защищать модели, конвейеры данных, агентов и промпты. De Souza отметил, что агенты, перемещаясь по корпоративным системам, могут обнаружить забытые репозитории данных и раскрыть их содержимое. Решение — перейти к «агентной защите»: вместо людей, управляющих обороной, использовать ИИ-агентов, а люди будут лишь контролировать процесс. Это, однако, требует квалифицированных кадров, дефицит которых ощущается всё острее.
De Souza назвал «теневое ИИ» ключевой угрозой: сотрудники используют потребительские инструменты без контроля.
Проблема усугубляется инцидентами, которые ставят под сомнение контроль Google над собственными сервисами. The Register сообщил о серии случаев, когда разработчики, разместившие API-ключи для Google Maps согласно инструкциям, столкнулись с крупными счетами после неавторизованных вызовов Gemini. Rod Danan из Prentus получил счёт на $10 138 за 30 минут, Isuru Fonseka — на AUD $17 000, несмотря на лимит $250. Google автоматически повысил их тарифные планы до $100 000 без явного согласия. Компания вернула деньги, но инцидент показал, что даже провайдеры платформ не застрахованы от ошибок конфигурации.
Глава службы информации LinkedIn Lea Kissner назвала происходящее «баг-апокалипсисом» и предсказала, что устойчивое понимание безопасности ИИ не появится раньше чем через несколько лет. De Souza вторит ей: переходный период неизбежен, но компании, которые уже сейчас внедряют платформенный подход, имеют больше шансов достичь «лучшего места».
