Открытое письмо президенту Королевского общества подписали 42 математика, среди которых лауреаты Филдсовской премии Мартин Хайрер, Петер Шольце и Венделин Вернер. Никто из подписантов не связан с компаниями, разрабатывающими ИИ. Авторы призывают Британскую академию наук довести до правительства и медиа информацию о рисках, связанных с дальнейшим ростом возможностей передовых моделей.
Поводом для обращения стал неожиданный прогресс моделей в самой математике. За три месяца ведущие системы OpenAI и Anthropic решили несколько открытых исследовательских задач, включая одну из семи проблем тысячелетия. По словам авторов письма, в ряде разделов дисциплины модели уже работают на уровне лучших математиков-людей, и существует значительная вероятность, что за сопоставимо короткий срок они разовьют сверхчеловеческие способности.
| Подписанты | Статус | Связь с ИИ-компаниями |
|---|---|---|
| Мартин Хайрер | Лауреат Филдсовской премии | Нет |
| Петер Шольце | Лауреат Филдсовской премии | Нет |
| Венделин Вернер | Лауреат Филдсовской премии | Нет |
Однако беспокойство математиков вызывает не сама математика. Они предупреждают, что аналогичная скорость роста возможностей вероятна и в других областях: кибербезопасности, управлении автономным оружием, разработке биологических и химических агентов, целенаправленной дезинформации. Оценки исследовательских лабораторий, которые ставят экзистенциальный риск выше десяти процентов, «нельзя отмахиваться как от хайпа», говорится в письме. «К тому моменту, когда ситуация станет очевидной для широкой публики, может быть слишком поздно действовать», — пишут авторы.
За три месяца ведущие модели OpenAI и Anthropic решили открытые исследовательские задачи, включая одну из семи проблем тысячелетия.
Письмо адресовано президенту Королевского общества — старейшей научной академии Великобритании, основанной в 1660 году. Среди её членов были Исаак Ньютон, Чарльз Дарвин и Альберт Эйнштейн. Обращение к этой институции подчёркивает, что речь идёт не о технической дискуссии внутри ИИ-сообщества, а о попытке вывести тему на уровень национальной научной политики.
Прогресс в математике, на который ссылаются авторы, стал заметен в последние месяцы. Модели, обученные на больших корпусах научных текстов, научились не только решать олимпиадные задачи, но и находить новые шаги в доказательствах, которые до этого оставались открытыми. Это отличает текущую ситуацию от предыдущих волн автоматизации: системы работают не с заранее известными шаблонами, а с абстрактными структурами, где раньше требовался человеческий опыт.
Математики не предлагают конкретных регуляторных мер. Их цель — привлечь внимание к разрыву между скоростью технологического прогресса и способностью общества его осмыслить. Письмо появилось на фоне растущего числа заявлений от исследователей ИИ о необходимости международного контроля над разработкой систем, способных к самостоятельному целеполаганию. Пока неясно, как отреагирует Королевское общество, но сам факт обращения группы математиков такого уровня делает тему частью публичной повестки.
