30 ноября 2022 года Дженсен Хуанг, глава Nvidia, назвал день выхода ChatGPT «iPhone moment of ИИ». Уже в январе 2023-го сервис насчитывал 100 млн активных пользователей в месяц. С тех пор ИИ стал массовым инструментом: по данным McKinsey, в 2025 году 88% компаний использовали ИИ хотя бы в одной бизнес-функции. Но вместе с популярностью выросло и внимание злоумышленников: ИИ для них одновременно и цель, и средство атаки. Майский отчёт Google ИИ Threat Tracker подтверждает эту тенденцию.
Для защиты ИИ-систем компаниям нужно моделировать угрозы, а для этого — знать, откуда брать данные. Вячеслав Мосин, магистрант ИИ Talent Hub в ИТМО и практикант ITMO ИИ Security Lab, подготовил обзор основных источников. Среди них — MITRE Atlas, специализированная матрица тактик и техник атак на ИИ, созданная на основе популярной MITRE ATT&CK. Atlas обновляется примерно раз в месяц, данные доступны в GitHub-репозитории mitre-atlas/atlas-data, где техники, митигации и примеры реализации разложены в YAML-файлах. Это упрощает автоматический сбор информации.
| Источник | Частота обновлений | Содержимое |
|---|---|---|
| MITRE Atlas | Ежемесячно | 173 техники, 35 митигаций, 63 примера эксплуатации |
| Google AI Threat Tracker | Ежегодно (май) | Отчёт о реальных инцидентах и трендах |
| GitHub-репозиторий Atlas | Ежемесячно | YAML-файлы с техниками и митигациями |
Структура Atlas повторяет логику ATT&CK: тактики описывают этапы атаки (разведка, подготовка ресурсов, первоначальный доступ и так далее), а техники — конкретные способы реализации. На момент подготовки статьи в матрице было 173 техники и подтехники, 35 способов митигации и 63 примера эксплуатации. Каждая техника имеет идентификатор, ссылку на тактику, уровень зрелости (feasible, demonstrated, realized), целевую платформу (Predictive ИИ, Generative ИИ, Agentic ИИ, Enterprise) и количество известных примеров. Такая структура позволяет оценить защищённость по каждому этапу атаки — например, Positive Technologies использует MITRE ATT&CK для демонстрации покрытия своих продуктов.
Google ИИ Threat Tracker — майский отчёт 2025 года, подтверждающий рост числа атак с использованием ИИ.
Помимо Atlas, есть и другие источники. Google ИИ Threat Tracker — это отчёт, который фиксирует реальные инциденты и тренды. Для быстрого ознакомления подходят обзоры и дайджесты, но для построения модели угроз или научных исследований лучше использовать структурированные базы вроде Atlas. Автор отмечает, что выбор источника зависит от задачи: если нужно оперативно следить за новыми техниками — Atlas с его регулярными обновлениями, если нужна статистика по реальным атакам — Google Threat Tracker. В итоге лучшим источником для моделирования угроз признан MITRE Atlas благодаря полноте и открытости данных.
