В федеральный суд Калифорнии в среду подано 30 новых исков против OpenAI и ее генерального директора Сэма Альтмана. Истцы — ученики, учителя и директор школы Tumbler Ridge, которые находились в здании во время стрельбы. Они обвиняют компанию в «существенной помощи и подстрекательстве» предполагаемому стрелку Джесси Ван Руцелаару, который, по данным следствия, использовал ChatGPT для планирования атаки.
Суть претензий схожа с исками, поданными семьями жертв в апреле. Утверждается, что автоматизированная система проверки OpenAI выявила диалоги Ван Руцелаара с чат-ботом, содержащие обсуждения насилия с применением оружия. Система рекомендовала связаться с канадскими властями, однако, по версии истцов, Крис Лэйн, главный директор по глобальным связям OpenAI, участвовал в решении не сообщать властям, опасаясь «репутационного и финансового ущерба» для компании. Вместо этого аккаунт пользователя был деактивирован, но не заблокирован полностью, что позволило ему зарегистрироваться с другим email и продолжить пользоваться сервисом. Истцы настаивают, что предоставление доступа к инструменту само по себе является «существенной помощью».
OpenAI отвергает обвинения. Джейсон Квон, главный стратегический директор компании, в публикации в X назвал их «ложными» и подчеркнул, что утверждения о приоритете репутации над безопасностью «совершенно не соответствуют сти». Он добавил, что сотрудники, принимающие сложные решения, всегда ставят безопасность на первое место. Ранее, в апреле, OpenAI уже сталкивалась с исками от семей жертв стрельбы в Tumbler Ridge, а также с иском от штата Флорида, который обвиняет компанию в пособничестве массовым стрелкам, включая нападавшего на Университет штата Флорида в прошлом году.
Утверждается, что OpenAI проигнорировала рекомендации своей системы безопасности связаться с канадскими властями.
Этот случай поднимает важный вопрос об ответственности разработчиков ИИ за возможное использование их продуктов в противоправных действиях. Хотя OpenAI внедряет системы безопасности и модерации, они не всегда могут предотвратить злоупотребления. Юридическая практика в этой области только формируется, и решения по подобным искам могут создать прецеденты, влияющие на всю индустрию. Пока же компании приходится балансировать между защитой своей репутации и соблюдением этических норм, что в данном случае, по мнению истцов, было нарушено.
