Теренс Тао: ИИ может вызвать крупнейший кризис математики со времен Гёделя

Теренс Тао, один из самых влиятельных математиков современности и лауреат Филдсовской премии, опубликовал эссе, в котором утверждает, что искусственный интеллект может спровоцировать кризис математики, сопоставимый с кризисом оснований начала XX века. Тогда, между 1900 и 1930 годами, парадокс Рассела и теоремы Гёделя о неполноте заставили математиков явно сформулировать допущения, которые ранее оставались неявными. Это привело к созданию строгой аксиоматической системы, которая служит основой математики уже столетие.

Тао проводит параллель с современной ситуацией, но подчеркивает, что сегодня вызов касается не математической истины, а «в значительной степени неявной системы математических ценностей и практик»: что считается вкладом в науку, что вознаграждается, что означает понимание и можно ли считать, что машина выполнила работу. Его рабочая гипотеза: «Инструменты ИИ в ближайшее время станут способны выполнять значительную часть исследовательских математических задач с разумным уровнем успеха, качества, контроля и стоимости».

В качестве доказательства Тао ссылается на проект First-Proof Project. Во втором раунде этого проекта десять ранее не публиковавшихся исследовательских задач были протестированы на четырех системах ИИ в контролируемых условиях. Семь из десяти задач получили хотя бы одну удовлетворительную оценку от хотя бы одной системы, что означает решение, признанное практически безупречным или требующим лишь незначительных правок. Стоимость решения одной задачи составила от десятков до сотен долларов.

Тао также обращает внимание на проблему, связанную с законом Гудхарта: «Когда мера становится целью, она перестает быть хорошей мерой». Генеративный ИИ особенно подвержен этому, поскольку стремится к видимости хорошего результата, а не к реальному результату. Финансовые стимулы ИИ-индустрии усугубляют ситуацию, поощряя именно те измеримые и цитируемые победы, которые математики давно используют как заменители более глубоких целей.

Если гипотеза Тао верна, математика может перейти от дефицита доказательств к их изобилию: ИИ будет генерировать доказательства быстрее, чем люди смогут их проверить, прочитать или усвоить. В базе данных задач Эрдёша уже есть десятки сгенерированных ИИ решений, которые ни один эксперт не вызвался проверить. Кроме того, ИИ-полированные доказательства лишены «естественного трения», которое присутствует в человеческих работах: тщательно выверенной леммы, смены обозначений, абзаца, который явно переписывался несколько раз. Такие доказательства «легко читать, но трудно учиться по ним», и ошибки в человеческом изложении «могут быть полезны читателю».

Тао предлагает конкретное правило: «Если авторы не могут убедительно продемонстрировать, что способны дать ясную экспертную лекцию о своих результатах, правильную и с правильными ссылками, то результат не должен публиковаться». Доказательство, которое ни один человек не может объяснить, следует считать неполным, даже если оно формально проверено. Особое внимание нужно уделять обучению молодых математиков, чтобы защитить «неизменно человеческий аспект» их работы и ограничить использование ИИ. Сам Тао признается, что использует ИИ для поиска литературы, создания диаграмм, завершения текста и конвертации слайдов в формат статьи.

Недавно известные математики Тимоти Гауэрс и Питер Сарнак признали, что большие языковые модели обладают реальными математическими способностями, но видят их ограничения в создании по-настоящему новых идей. Эссе Тао выходит за рамки этих дебатов: его меньше волнует, что ИИ может или не может делать, и больше — что математика сама по себе хочет.