Фрэнсис де Суза, операционный директор Google Cloud, выступил на мероприятии в Лос-Анджелесе с тезисом, который звучит непривычно для корпоративной аудитории: безопасность ИИ-систем — это не техническая задача, а стратегическая, и её место в повестке совета директоров, а не в регламентах IT-службы. «Не существует ИИ-стратегии без стратегии работы с данными и стратегии безопасности», — сформулировал он свою позицию.
Центральный аргумент де Сузы — радикальное изменение скорости атак. Если несколько лет назад у компании было около восьми часов между первичным проникновением и следующей стадией атаки, сегодня этот промежуток составляет 22 секунды. Это означает, что традиционная модель реагирования, при которой специалист по безопасности анализирует инцидент и принимает решение вручную, физически не успевает сработать. Именно поэтому де Суза продвигает концепцию агентной защиты: «Вместо того чтобы выстраивать оборону с человеком во главе или хотя бы с человеком в контуре принятия решений, теперь можно организовать полностью агентную защиту под наблюдением людей». Разница принципиальная — человек перестаёт быть участником каждой операции и становится надзорным звеном.
Отдельную угрозу де Суза видит в так называемом «теневом ИИ» — ситуации, когда сотрудники самостоятельно подключают ИИ-инструменты, не согласовывая это с компанией. Проблема не нова: аналогичный феномен существовал с облачными сервисами и мессенджерами. Но в случае с ИИ последствия серьёзнее: агенты способны автоматически обнаруживать и обрабатывать забытые корпоративные источники данных — например, старые серверы SharePoint, которые формально не используются, но содержат чувствительную информацию. Таким образом, ИИ-агент, запущенный рядовым сотрудником, может неосознанно расширить поверхность атаки до масштабов, которые IT-служба даже не отслеживает.
«Теневой ИИ» — сотрудники используют ИИ-инструменты без ведома компании — назван отдельной угрозой.
Де Суза также указывает на структурное изменение самой поверхности угроз. Раньше периметр безопасности совпадал с сетевым периметром компании. Сегодня к нему добавились модели, пайплайны для их обучения, агенты и промпты — и всё это требует защиты. При этом компании нередко недооценивают реальное число облачных провайдеров, с которыми они работают: SaaS-приложения и партнёры по бизнесу почти всегда привносят дополнительные облака, даже если организация убеждена, что использует единственного провайдера. Это делает единую кросс-облачную стратегию безопасности не опциональной, а обязательной.
В более широком контексте позиция де Сузы отражает сдвиг, который происходит во всей отрасли: крупные вендоры — Microsoft, Amazon, Google — активно продвигают концепцию «безопасность по умолчанию» применительно к ИИ-инфраструктуре. Однако де Суза делает акцент не на продуктовых решениях, а на управленческой ответственности. «Безопасность нельзя прикрутить потом, и нельзя оставлять её на усмотрение сотрудников», — сказал он. Для компаний, которые сейчас разворачивают ИИ-агентов в производственных средах, это означает необходимость пересмотреть, кто именно принимает решения о рисках — и на каком уровне иерархии.
