OpenAI распустила команду preparedness, которая занималась оценкой рисков, связанных с разработкой ИИ, в конце прошлого месяца. Об этом сообщает Financial Times. Задача команды заключалась в том, чтобы оценивать, несут ли модели серьезные угрозы, и разрабатывать меры по их снижению — например, предотвращение сценариев, при которых ИИ мог бы выйти из-под контроля и взломать другую компанию.
Теперь ответственность за эти вопросы распределена по отдельным направлениям, таким как био- и кибербезопасность, и передана в существующие отделы. Руководитель команды Дилан Скандинаро, который перешел в OpenAI из Anthropic в феврале, сосредоточится на изучении последствий «рекурсивного самосовершенствующегося» ИИ.
Это последнее изменение в компании, которая находится в состоянии турбулентности на фоне подготовки к крупному первичному публичному размещению акций (IPO). За последние несколько лет OpenAI постепенно отказывалась от подхода, ориентированного на безопасность, распустив команды AGI Readiness и Superalignment. Также недавно компанию покинули руководитель по этике Хлоя Бакалар, главный футуролог Джош Ачиам и глава отдела безопасности Йоханнес Хайдеке.
Обязанности по оценке рисков разделили по направлениям и передали в существующие отделы.
Критики, включая Яна Лейке, который ушел из OpenAI в 2024 году, заявляют Financial Times, что компания игнорирует безопасность в пользу создания «блестящих продуктов». Эти кадровые перестановки вызывают вопросы о приоритетах OpenAI в преддверии IPO, когда инвесторы будут оценивать не только финансовые показатели, но и репутационные риски, связанные с безопасностью ИИ.
