OpenAI начала широкое развертывание своей новой передовой языковой модели Sol. Модель считается как минимум сопоставимой с Anthropic Fable, которую ранее правительство США временно запретило к публичному доступу. Однако как именно Sol получила одобрение регуляторов, остается загадкой.
«Если честно, у меня нет доступа к этим процессам, и я не могу сказать, адекватны ли они», — заявила TechCrunch Мина Нараянан, старший научный исследователь Центра безопасности и новых технологий Джорджтаунского университета. Энди Конвински, сооснователь Databricks и Perplexity, добавил, что никогда не общался с человеком, который понимает этот процесс, включая сотрудников ведущих лабораторий. «Это экзистенциальная проблема — кто обладает властью принимать решения, кто контролирует доступ?» — отметил он.
Процесс регулирования остается непрозрачным через 18 месяцев после начала администрации Трампа. В прошлом месяце вышел указ о дорожной карте оценки frontier-моделей, но детали не заполнены. Бывший старший советник по ИИ в Белом доме Шрирам Кришнан заявил Financial Times, что «FDA для ИИ не будет». Сейчас ведущую роль играет Центр стандартов и инноваций в ИИ при Минторге, но указ предписывает шести ведомствам определить окончательный процесс к началу августа.
Эксперты, включая сотрудников OpenAI, не знают точных критериев, по которым модель признается безопасной.
OpenAI отказалась раскрыть детали государственной проверки. В блоге компания заявила, что не считает текущий процесс долгосрочным вариантом. Однако на фоне сообщений о предложении 5% акций OpenAI для «счетов Трампа» и роли президента OpenAI Грега Брокмана как крупного донора, внешние наблюдатели сомневаются в объективности. Конвински считает, что истинных экспертов — исследователей безопасности, выравнивания и интерпретируемости — недостаточно вовлекают в процесс. Он предлагает «открытый общий доступ» по образцу FDA или национальных лабораторий для баланса безопасности и инноваций.
