OpenAI совместно с компанией Trail of Bits запустили проект Patch the Planet, направленный на повышение безопасности open-source проектов. Инициатива предусматривает, что специалисты Trail of Bits будут работать напрямую с мейнтейнерами, анализируя потенциальные проблемы в коде. В процессе проверки будут использоваться инструменты безопасности OpenAI, такие как Codex Security.
По заявлению OpenAI, многие мейнтейнеры испытывают перегрузку от поступающих отчётов об ошибках, не имея достаточно времени и ресурсов для их обработки. Patch the Planet призван снизить эту нагрузку: инженеры по безопасности предварительно изучают результаты проверок, разрабатывают патчи и тесты, а также создают повторно используемые рабочие процессы для дальнейшего улучшения безопасности. Это позволяет мейнтейнерам сосредоточиться на исправлении критических проблем.
Проблема безопасности open-source кода стоит остро: ошибки в таких проектах могут приводить к серьёзным последствиям для коммерческих продуктов. Яркий пример — уязвимость Log4j, обнаруженная несколько лет назад в широко используемой библиотеке для логирования. В то же время инструменты на базе ИИ, такие как Mythos от Anthropic, способны автоматически выявлять уязвимости и создавать эксплойты, что потенциально упрощает атаки злоумышленников. OpenAI использует ИИ для защиты, а не для нападения, что можно рассматривать как ответный шаг на фоне растущих угроз.
Инициатива использует инструменты ИИ OpenAI (Codex Security) для автоматизации проверки кода.
Хотя долгосрочный план масштабирования Patch the Planet пока неясен, сама инициатива демонстрирует стремление компании укрепить доверие к open-source экосистеме и одновременно составить конкуренцию другим разработчикам ИИ-инструментов для безопасности.
