OpenAI анонсировала Private Safety Processing — новый компонент для развертываний с Zero Data Retention (ZDR), который позволяет анализировать взаимодействия пользователей с ИИ, не раскрывая содержимое персоналу. Это ответ на растущую потребность организаций в безопасности при сохранении конфиденциальности данных.
ZDR — это режим, при котором OpenAI не хранит промпты и ответы после обработки запроса. Однако с усложнением задач ИИ некоторые риски становятся заметны только при анализе нескольких взаимодействий. Существующие системы безопасности оценивают каждое взаимодействие отдельно, что не позволяет выявить паттерны злоупотреблений, такие как скоординированные атаки или постепенное отклонение от намерений пользователя.
Private Safety Processing расширяет защиту, анализируя связанные взаимодействия. Система работает как с данными на инфраструктуре клиента, так и с новым вариантом, где данные хранятся на инфраструктуре OpenAI, но зашифрованы ключами, контролируемыми клиентом. В обоих случаях автоматизированные системы выявляют потенциальные риски и возвращают узкие сигналы, не раскрывая содержимое персоналу OpenAI.
Система работает с ZDR-развертываниями, где данные хранятся на инфраструктуре клиента, и с новым вариантом с шифрованием на стороне OpenAI.
Этот подход важен для организаций, работающих с чувствительными данными, такими как финансовые записи, медицинская информация или коммерческие планы. Ранее некоторые развертывания требовали от клиентов разрешить провайдеру хранить данные для мониторинга безопасности, что противоречило их обязательствам. Private Safety Processing позволяет сохранить ZDR и при этом обеспечить безопасность.
Функция уже тестируется с ранними клиентами. Генеральный директор Glean, компании, использующей OpenAI, отметил: «Enterprise ИИ adoption depends solely on customer control of data, with no direct or derivative use beyond the chosen service. OpenAI’s no-training commitment and ZDR give Glean confidence to build with OpenAI. As models become more capable, OpenAI shows safety can advance without compromising the privacy promises that enterprises rely on».
OpenAI подчеркивает, что сотрудничество с клиентами из разных отраслей помогает формировать систему. Это часть более широкой стратегии по обеспечению безопасности ИИ, которая включает принципы, согласно которым ни одна лаборатория не может справиться с рисками в одиночку.
