OpenAI представила систему защиты от злоупотреблений без хранения данных клиентов

OpenAI представила систему Private Safety Processing, которая позволяет корпоративным клиентам использовать передовые модели ИИ без хранения их данных, сохраняя при этом возможность выявлять злоупотребления. Анонс сделан на фоне растущих требований к конфиденциальности в корпоративном секторе, где компании опасаются передавать чувствительные данные сторонним сервисам.

Суть технологии заключается в том, что система анализирует паттерны злоупотреблений нескольких связанных взаимодействий, но при этом обеспечивает нулевое хранение данных (ZDR). Это означает, что после обработки никакие данные не сохраняются. OpenAI получает лишь узкий сигнал безопасности, который включает тип и серьезность активности, но не видит фактические входные и выходные данные. Такой подход позволяет выявлять злоупотребления, которые часто проявляются только в ходе нескольких разговоров, как отметила Алеа Хоуз, руководитель отдела продуктовой политики OpenAI.

Ключевое преимущество для клиентов — данные остаются на их собственной инфраструктуре или хранятся в зашифрованном виде, при этом ключи шифрования находятся у клиента. Это контрастирует с подходом конкурента Anthropic, которая для своих самых мощных моделей, таких как Fable 5, требует 30-дневного хранения данных. Для компаний, работающих в регулируемых отраслях, таких как финансы или здравоохранение, возможность использовать ИИ без передачи данных третьей стороне может стать решающим фактором.

Технические детали системы будут раскрыты в техническом документе, который OpenAI планирует выпустить в сентябре. Пока неясно, насколько эффективно Private Safety Processing справляется с выявлением сложных паттернов злоупотреблений по сравнению с традиционными методами, которые полагаются на полный доступ к данным. Однако сам факт появления такого решения указывает на тренд в индустрии: компании стремятся совместить мощь ИИ с требованиями конфиденциальности, что особенно актуально для enterprise-сегмента.