Только 14% российских корпораций знакомы с MLSecOps

4 сентября «К2 Кибербезопасность» и «Лаборатория Касперского» представили результаты исследования «Безопасность ИИ в России: практика, риски, зрелость». Согласно данным, 38% российских корпораций уже разрабатывают ИИ-решения для внутренних процессов, однако уровень зрелости процессов информационной безопасности заметно отстает от темпов внедрения технологий. Почти половина опрошенных компаний (46%) не знакомы с методологией MLSecOps, а 40% знают о ней лишь поверхностно. Таким образом, только 14% компаний можно считать осведомленными о подходах к безопасной разработке ИИ-систем.

MLSecOps (Machine Learning Security Operations) — это подход, объединяющий машинное обучение, DevOps и информационную безопасность. Он предполагает, что безопасность ИИ-систем обеспечивается на каждом этапе их жизненного цикла — от ранних стадий разработки до эксплуатации. Внедрение MLSecOps позволяет существенно снизить риски, связанные с атаками на модели, утечками данных и другими угрозами. Однако, как показывают результаты исследования, эта методология пока не стала общепринятым стандартом управления безопасностью ИИ в российских компаниях.

Александр Лысенко, ведущий эксперт по безопасности разработки и ИИ в «К2 Кибербезопасность», отметил, что рынок MLSecOps находится на этапе становления, и единая зрелая практика еще не сформировалась. Защитные подходы и специализированные решения появляются разрозненно, прежде всего в тех областях, где риски уже стали ощутимыми для бизнеса. Ситуация осложняется тем, что задачи безопасности ИИ-систем распределены между несколькими функциями: безопасностью разработки, защитой данных, контролем инфраструктуры, мониторингом эксплуатации и расследованием инцидентов. Поэтому безопасность ML-разработки невозможно эффективно выстроить без постоянного взаимодействия ИБ-отдела с командами по исследованию данных.

Владислав Тушканов, руководитель группы исследования технологий машинного обучения в «Лаборатории Касперского», добавил, что рынок решений по безопасности ИИ очень динамичен. Если раньше речь шла о защите от джейлбрейков и утечек персональных данных в чатах, то сейчас необходимо обнаруживать потенциально опасные действия код-ассистентов и вредоносный код в агентных навыках. Роль ИБ-вендора — отслеживать ландшафт угроз и оперативно реагировать на изменения: понимать, какие риски закрываются имеющимися решениями, для каких необходимо создавать продукты в новых классах (например, ИИ Firewall), а где первоочередную роль играет повышение осведомленности пользователей и разработчиков.

Исследование также выявило пробелы в контроле за ИИ-системами. Только у трети компаний (32%) есть централизованный реестр моделей, что повышает риск запуска непроверенных артефактов или уязвимостей в цепочке поставок. Централизованный каталог датасетов есть менее чем у половины (43%) компаний, хотя датасеты — это фундамент безопасности: через них в ИИ/ML-контур могут проникнуть ошибки, произойти утечки или скрытое изменение поведения модели. Контроль версий моделей реализован у 61% компаний, но значительная доля тех, кто не владеет информацией о его наличии, указывает на размытость ответственности между командами.

Рынок уже переносит на ИИ часть зрелых практик классического ИБ- и ИТ-управления. Контроль доступа и доставки есть у 59% компаний, ролевая модель доступа внедрена широко, что говорит о вхождении темы управления ИИ в корпоративное управление. Однако защиту датасетов внедрили лишь 46% компаний, что оставляет без контроля основу будущего поведения модели. Эксперты подчеркивают: наличие базовых практик не гарантирует защищенность ИИ-среды, требуется расширение зон контроля — защита наборов данных, контроль промптов, обучение модели и другие меры.