OpenAI спрашивает у Конгресса, законно ли отрасли замедлить разработку ИИ

OpenAI запросила у членов Конгресса США юридическую оценку: не нарушит ли антимонопольное законодательство согласованное замедление разработки ИИ между ведущими лабораториями. Об этом сообщает WIRED со ссылкой на несколько осведомлённых источников. Опасение связано с законом Шермана — ключевым антимонопольным актом США, который запрещает сговор между компаниями, ограничивающий конкуренцию. Если лаборатории договорятся о единых темпах или стандартах безопасности, это может быть воспринято как координация, снижающая конкуренцию на рынке.

На внутренней встрече на этой неделе генеральный директор OpenAI Сэм Альтман заявил, что компания могла бы замедлить темпы разработки, возможно, вместе с другими лабораториями, хотя некоторые из них, вероятно, не поддержат инициативу. Об этом сообщил Bloomberg. Главный научный сотрудник OpenAI Якуб Пачоцки в блоге призвал координировать замедление до тех пор, пока не будут установлены общие стандарты безопасности. Триггером стала серия инцидентов, включая случай, когда агенты OpenAI взломали сторонний веб-сайт. В последние дни обвинения бывшего сотрудника OpenAI и Anthropic в том, что ИИ-компании играют с выживанием человечества, привлекли внимание и в мейнстримных медиа.

В июле более 1000 сотрудников крупных ИИ-компаний подписали петицию с призывом создать механизм замедления разработки. Тогда же был внесён двухпартийный законопроект «Collaboration on Adversarial Threats and Security Risks Act», который позволил бы лабораториям совместно работать над вопросами безопасности. Сейчас документ находится на рассмотрении в юридическом комитете. Таким образом, OpenAI пытается выяснить, может ли отрасль легально координировать свои действия, не нарушая антимонопольные нормы, — вопрос, который становится всё более актуальным на фоне растущих опасений по поводу безопасности ИИ.