OpenAI анонсировала новую систему безопасности под названием Private Safety Processing, которая предназначена для мониторинга злоупотреблений ИИ без сохранения пользовательских данных. Система, доступная пока избранным клиентам, автоматически анализирует диалоги на предмет потенциальных угроз, не оставляя копий разговоров у себя. Это шаг, направленный на укрепление доверия корпоративных заказчиков, которые все чаще обеспокоены тем, как их данные обрабатываются ИИ-компаниями.
Private Safety Processing расширяет существующую политику Zero Data Retention (ZDR), которая уже используется OpenAI и другими компаниями. ZDR предполагает, что данные клиентов не хранятся, а мониторинг осуществляется через агентов, работающих на уровне API. Однако новая технология идет дальше: она способна анализировать несколько разговоров в совокупности, что позволяет выявлять злоупотребления, растянутые во времени. Например, злоумышленник, пытающийся создать вредоносное ПО, может распределить свои запросы по разным сессиям, чтобы избежать обнаружения. Private Safety Processing связывает эти сессии и отправляет сигнал в OpenAI, если обнаруживает подозрительную активность. При этом человеческий контроль не требуется, а данные клиентов не передаются третьим лицам.
Анонс OpenAI стал прямым ответом на политику Anthropic, которая с июля хранит данные пользователей в течение 30 дней для моделей класса Mythos (включая Fable). Эта мера, по заявлению Anthropic, необходима для анализа потенциальных нарушений, но вызвала недовольство среди предприятий, работающих с чувствительной информацией. В отличие от Anthropic, OpenAI подчеркивает, что Private Safety Processing не сохраняет данные и не предполагает вмешательства человека, если только клиент сам не решит предоставить дополнительную информацию.
Новая технология расширяет Zero Data Retention, анализируя несколько диалогов для обнаружения многосессионных атак.
Конкуренция между OpenAI и Anthropic обостряется: недавние отчеты показывают, что рост выручки OpenAI замедлился, в то время как Anthropic достигла годового показателя в $65 млрд. Обе компании готовятся к IPO, и борьба за корпоративных клиентов становится все более важной. Приватность данных превращается в ключевой фактор дифференциации, и OpenAI, предлагая более строгие гарантии, пытается переманить клиентов у конкурента.
Остается неясным, насколько эффективно Private Safety Processing будет работать в реальных условиях и не приведет ли к ложным срабатываниям. Также не уточняется, когда технология станет доступна всем клиентам. Однако уже сейчас ясно, что вопрос конфиденциальности данных становится центральным в индустрии ИИ, и компании вынуждены искать баланс между безопасностью и приватностью.
