OpenAI объявила о выделении $5 млн на поддержку демократических органов надзора, чтобы те могли эффективнее контролировать использование ИИ в национальной безопасности. Средства пойдут на обучение, техническую поддержку и кредиты OpenAI для ответственного внедрения и оценки ИИ-инструментов. Инициатива рассчитана на год и включает пилотные проекты, которых ревизоры смогут изучать записи, связанные с решениями, принятыми с участием ИИ.
Компания подчеркивает, что не выполняет надзорную функцию за правительством и не должна этого делать. Ответственность лежит на выборных должностных лицах и государственных институтах. OpenAI лишь предоставляет технологии, чтобы помочь надзорным органам выполнять свои существующие мандаты. Это заявление появилось на фоне растущего использования ИИ в государственных структурах, где скорость и масштаб систем делают традиционный ручной надзор практически невозможным.
OpenAI выделяет три принципа, которыми будет руководствоваться в этой работе. Во-первых, ИИ должен усиливать, а не заменять человеческое и институциональное суждение. Решения о законности и соответствии действий правительства остаются за уполномоченными органами. Во-вторых, использование ИИ должно быть прослеживаемым и понятным для авторизованного надзора, при этом защищая секретные и конфиденциальные данные. В-третьих, ИИ должен расширять возможности демократических надзорных институтов, поскольку ручной надзор не масштабируется.
Инициатива рассчитана на год и включает пилотные инструменты для проверки решений с участием ИИ.
В течение следующего года OpenAI планирует работать с уполномоченными официальными лицами, чтобы выявить практические возможности для повышения эффективности надзора. Компания также намерена пилотировать инструменты, которые помогут ревизорам изучать входные данные, выходные данные и использование инструментов в решениях, принятых с участием ИИ. Эти инструменты будут совместимыми и модельно-агностическими, где это возможно. Участвующие институты, а не OpenAI, сохранят контроль над доказательствами и результатами.
OpenAI также планирует взаимодействовать с гражданским обществом и техническими экспертами, чтобы их взгляды учитывались при разработке этих инструментов. Успех инициативы будет оцениваться по тому, насколько лучше авторизованные ревизоры смогут выполнять свои обязанности и насколько укрепится доверие общества к использованию ИИ в правительстве. Это заявление согласуется с более широкими усилиями OpenAI по обеспечению безопасности ИИ, включая Preparedness Framework, которая предполагает тщательную проверку моделей до и после развертывания.
