25 лауреатов Филдсовской премии предупредили об угрозе ИИ для математики

Двадцать пять математиков, удостоенных Филдсовской премии — самой престижной награды в этой области, — подписали совместное заявление о влиянии искусственного интеллекта на их дисциплину. Среди подписавшихся Теренс Тао, Пьер Делинь (1978), Питер Шольце (2018), Марина Вязовская (2022), Мартин Хайрер (2014), Седрик Виллани (2010), Манджул Бхаргава (2014) и лауреат этого года Ю Дэн. Они утверждают, что цели ИИ-индустрии и математического сообщества «серьёзно рассогласованы».

Поводом для беспокойства стало то, что большие языковые модели за последние месяцы научились решать «крупные нерешённые задачи во многих областях математики». Казалось бы, это достижение. Но математики видят в нём угрозу. ИИ-компании рассматривают математические задачи как бенчмарки, которые нужно покорить, и это, по мнению подписантов, вредит науке и сообществу вокруг неё. «Решение задач — это лишь инструмент и приблизительный показатель для достижения главной цели: концептуального понимания и проникновения в суть», — говорится в заявлении.

Известные нерешённые проблемы «часто служили ориентирами и маяками, по которым можно измерять улучшение понимания этого ландшафта», — пишут математики. Когда кто-то решает такую задачу, само решение значит меньше, чем новое мышление, которое к нему привело. Затем математики тратят годы на то, чтобы разобрать это мышление в «долгом и трудном процессе докладов, обсуждений, упрощений». ИИ угрожает замкнуть этот процесс. Поток ответов на машинной скорости может «уничтожить плодородную почву вместо того, чтобы вдохнуть жизнь в новые идеи».

Отдельная проблема — атрибуция. Решения, сгенерированные ИИ, объявляются без времени на «надлежащее оформление, выделение новых методов и идей и цитирование соответствующих предыдущих работ других авторов». Это порождает «серьёзные вопросы об авторстве и плагиате». «Без готовых математиков, которые должны заботиться о развитии и интеграции этих идей в математический канон, идеи, зачатые ИИ, никогда не станут полностью живыми, — говорится в заявлении. — Ключевая цепочка передачи знаний между математиками будет потеряна».

Заявление появилось на фоне спора между двумя математиками и OpenAI. Обвинение: OpenAI узнала о слухах о частичном решении задачи тысячелетия и попыталась опередить исследователей ради публичности. Главный исследователь OpenAI Пачоки во время анонса Astra говорил, что компания сознательно решила не оптимизировать модель для математики. Вскоре после этого OpenAI, судя по всему, всё же обучила математические модели — по-видимому, в прямой реакции на эти слухи.

Угроза выходит далеко за пределы математики. Подписанты видят «общую угрозу интеллектуальному труду». Во многих областях годы обучения «служили не только для получения конечного ответа или продукта, но и для развития понимания и способности формулировать новые вопросы и идеи». Когда ИИ выдаёт «результаты такой работы напрямую», эти цели расходятся. «Проблемы, с которыми сейчас сталкивается математическое сообщество, похожи на проблемы, с которыми сталкиваются другие научные и творческие профессии, и указывают на проблемы, с которыми может столкнуться всё человечество: как сделать так, чтобы, по мере того как ИИ меняет способы выполнения работы, мы не упускали из виду, для чего эта работа изначально предназначалась».

Разрыв уже заметен в образовании. Домашние задания всё чаще выполняет ИИ, тогда как на экзаменах его по-прежнему запрещают. Разрыв между этими двумя показателями успеваемости, измеряемый в оценках, растёт. Математики не призывают к запрету. ИИ «предлагает потенциал для улучшения и ускорения подлинного математического изучения и понимания». Профессии придётся адаптироваться. Но «принесут ли эти изменения в конечном итоге пользу области или окажут разрушительное воздействие, в значительной степени будет определяться решениями людей, контролирующих эту новую технологию». «Эти вопросы необходимо решать срочно», — говорят подписанты, обращаясь к математическому сообществу, компаниям, создающим эти инструменты, и «обществу, которое столкнётся с аналогичными проблемами во многих других формах интеллектуального труда».

Недавняя исследовательская работа Университета специальных операций НАТО описала связанную закономерность: «трагедию когнитивных ресурсов». Каждая компания, заменяющая начальные должности ИИ, получает выигрыш в эффективности, но издержки эрозии экспертизы распределяются по всему кадровому резерву. То, что исследователь описывает для целых профессий, математики уже наблюдают в своей области.