Стартап Artificial Intelligence Underwriting Company (AIUC) объявил о закрытии раунда Series A на $40 млн. Раунд возглавил Ribbit Capital, также участвовал First Harmonic. Ранее компания привлекла $15 млн на seed-раунде от Nat Friedman через его фонд NFDG, а среди инвесторов были Emergence, Terrain и соучредитель Anthropic Бен Манн. Общий объем финансирования достиг $55 млн.
AIUC основали Руне Квист и Раджив Даттани — свояки: Квист женат на сестре Даттани. Квист — ранний сотрудник Anthropic, Даттани с 2024 по 2025 год занимал должность COO в исследовательской организации по безопасности ИИ METR и остается членом ее совета. Стартап предлагает предприятиям и компаниям, создающим модели и агентов, независимый аудит и сертификацию. Среди клиентов названы Cursor, Lovable, Harvey и ElevenLabs.
| Раунд | Сумма | Инвесторы |
|---|---|---|
| Seed | $15 млн | NFDG (Nat Friedman), Emergence, Terrain, Бен Манн |
| Series A | $40 млн | Ribbit Capital (лидер), First Harmonic |
| Итого | $55 млн | — |
Идея AIUC — перенести привычную модель кибербезопасности на новый класс рисков, связанных с ИИ-агентами. За основу взят стандарт SOC 2, широко применяемый для аудита информационной безопасности. AIUC разработала собственный стандарт AIUC-1 и сервис тестирования, который проверяет агентов на соответствие этому стандарту. Чтобы сформировать требования, компания собрала консорциум из примерно 250 руководителей по безопасности и рискам — тех, кто покупает агентов. «Это люди, с которыми мы встречаемся ежемесячно, и вопрос, который мы им задаем: когда вы покупаете агентов у кого-то, на что бы вы смотрели? Какие вопросы хотели бы задать и что хотели бы видеть проработанным?» — рассказал Даттани TechCrunch. Обратная связь формирует набор тестов.
Ранее AIUC привлекла $15 млн seed от Nat Friedman через фонд NFDG, а также Emergence, Terrain и соучредителя Anthropic Бена Манна.
Далее стартап прогоняет агента через примерно 5 000 тестов, чтобы оценить его поведение в сценариях с джейлбрейками, галлюцинациями и утечками данных. Результат — отчет примерно на 100 страниц, где указано, в каких случаях агент работает безопасно и надежно, а где нет. Тесты выполняют ИИ-агенты, данные анализирует ИИ, но финальный аудит проверяют люди, говорит Квист.
Подход отчасти перекликается с работой METR, бывшего работодателя Даттани. METR проводит похожее тестирование для передовых лабораторий, но до недавнего времени фокус был в основном на производительности — способности агентов надежно выполнять задачи. METR была одной из независимых исследовательских организаций, которых OpenAI привлекла для разбора инцидента с Hugging Face. Генеральный директор Anthropic Дарио Амодеи недавно призвал отрасль сдерживать темпы разработки передовых моделей, ссылаясь на рост числа инцидентов с плохим поведением ИИ. В своем посте он предложил обязать передовые лаборатории использовать встроенных сторонних оценщиков для наблюдения и проверки безопасности, назвав METR одним из возможных вариантов. AIUC не предлагает встраиваться в инфраструктуру клиентов, но общая идея близка: дать предприятиям независимую оценку того, насколько безопасны их ИИ-агенты. «Вот где он проходит проверку и где ему можно доверять. А вот где есть опасения. Вам стоит знать об этих оговорках, прежде чем принимать решение о покупке», — говорит Даттани.
Что остается неопределенным: насколько стандарт AIUC-1 будет признан за пределами круга клиентов стартапа, как быстро он сможет масштабироваться и станет ли сертификация обязательным условием для продажи агентов в регулируемых отраслях. Пока компания опирается на интерес инвесторов и запросы предприятий, а не на нормативные требования.
