OpenAI представила Private Safety Processing — систему, предназначенную для выявления угроз Zero Data Retention (ZDR). ZDR — это режим, при котором OpenAI не сохраняет запросы и ответы модели после обработки. Новая технология анализирует паттерны в сериях взаимодействий, не раскрывая содержимое сотрудникам компании. Это важно, поскольку серьезные риски часто проявляются только при рассмотрении нескольких запросов вместе, например при скоординированных атаках или в ходе длительных агентных задач.
Традиционные системы безопасности, совместимые с ZDR, оценивают каждое взаимодействие отдельно. Private Safety Processing расширяет эти меры, позволяя автоматизированным системам выявлять закономерности в связанных действиях. При этом OpenAI получает лишь узкий сигнал о типе активности, но не доступ к содержимому. В случае обнаружения риска сигнал используется для решения о применении мер, а клиенты могут расследовать инциденты через собственные системы и при необходимости делиться информацией с OpenAI для апелляций.
Технология работает как с инфраструктурой, контролируемой клиентом, так и с хранилищем OpenAI. Во втором случае данные шифруются ключами, которыми управляет клиент, и у OpenAI нет копий этих ключей. Это позволяет сохранять конфиденциальность даже при хранении на серверах провайдера. OpenAI подчеркивает, что данные корпоративных клиентов не используются для обучения моделей без явного согласия.
Система работает как с инфраструктурой клиента, так и с хранилищем OpenAI, где данные шифруются ключами клиента.
Private Safety Processing уже тестируется с ранними клиентами. Компания отмечает, что обратная связь от организаций, работающих с чувствительными данными — финансовыми записями, медицинской информацией, бизнес-планами — помогла сформировать подход. Это особенно актуально для предприятий, которым требуются гарантии безопасности в условиях ужесточения регуляторных требований. Анонс последовал за запросами клиентов о предсказуемости защиты данных по мере роста возможностей ИИ.
Новая система не является заменой существующих мер безопасности, а дополняет их. Она решает проблему, когда развертывания frontier-моделей требовали от клиентов разрешить провайдеру хранить чувствительный контент для мониторинга, что противоречило их обязательствам. Private Safety Processing позволяет сохранить режим ZDR, одновременно усиливая защиту от злоупотреблений. Это шаг к балансу между безопасностью и конфиденциальностью, который, по мнению OpenAI, необходим для ответственного развития ИИ.
