Во вторник Крис Лехейн, отвечающий в OpenAI за глобальную политику, подтвердил журналистам: компания уже несколько недель ведёт переговоры с Anthropic и Google DeepMind о совместной работе над безопасностью ИИ. Лехейн находится в Вашингтоне, где обсуждает с законодателями катастрофические риски, связанные с передовыми моделями. О переговорах первым сообщил Bloomberg.
Поводом для координации стало эссе главы Anthropic Дарио Амодеи, опубликованное в субботу. В нём он призвал отрасль объединить усилия, чтобы замедлить гонку frontier-моделей и снизить вероятность катастрофических сценариев. Инициативу поддержали Сэм Альтман (OpenAI), Демис Хассабис (Google) и Илон Маск (SpaceXAI). Альтман заявил, что OpenAI присоединится к Anthropic и встроит сторонних аудиторов в компанию для мониторинга безопасности.
| Компания | Представитель | Позиция |
|---|---|---|
| OpenAI | Сэм Альтман | Поддержал инициативу, внедрит сторонних аудиторов |
| Anthropic | Дарио Амодея | Автор эссе с призывом замедлить frontier-модели |
| Google DeepMind | Демис Хассабис | Призвал создать орган по стандартам безопасности ИИ |
Однако у координации есть юридическая сторона. Альтман и другие участники отметили: если согласованные действия приведут к ограничению конкуренции, компании могут нарушить антимонопольное законодательство. Амодея предложил ввести узкое государственное исключение для такой координации, но Лехейн сказал, что фирмы не нуждаются в подобном разрешении.
Переговоры начались после эссе главы Anthropic Дарио Амодеи, призвавшего замедлить развитие frontier-моделей.
На той же встрече во вторник Лехейн заявил, что OpenAI поддерживает положение FRONTIER Act, обязывающее ведущие лаборатории допускать «независимые верифицирующие организации» внутрь компаний для проверки безопасности разработки моделей. Это соответствует более ранним призывам Хассабиса: в июле он предлагал создать новый орган по стандартам, который получил бы право проверять самые передовые модели и координировать замедление отрасли при росте угроз.
Параллельно The Information сообщила, что три компании работают над созданием отраслевого органа по стандартам. По словам Альтмана, переданным сотрудникам, это должно произойти без поддержки правительства США. Президент Трамп ранее называл опасения по поводу безопасности ИИ мистификацией и выступал против ужесточения регулирования, утверждая, что замедление даст преимущество Китаю. Его советник по ИИ Дэвид Сакс, longtime-инвестор в отрасль, также говорил, что страхи перед экзистенциальными рисками преувеличены.
Таким образом, переговоры трёх крупнейших игроков рынка frontier-моделей идут на фоне расхождения позиций бизнеса и Белого дома. Компании стремятся выработать общие стандарты безопасности, не дожидаясь законодательных решений, но вынуждены учитывать антимонопольные ограничения и политический фон.
