Теренс Тао: ИИ может создать в математике кризис «избытка доказательств»

Математик Теренс Тао предупредил, что развитие ИИ может вызвать в математике потрясения, сопоставимые с кризисом оснований начала XX века. Главной проблемой станет не проверка истинности результатов, а определение авторства, научного вклада и человеческого понимания машинных доказательств.

Математик Теренс Тао в эссе Mathematics in the age of AI предположил, что распространение искусственного интеллекта может привести математику к периоду потрясений, сопоставимому с кризисом оснований 1900–1930 годов. Однако на этот раз под давлением окажутся не представления о математической истине, а критерии научного вклада, понимания и авторства.

Тао предлагает условно исходить из того, что в обозримом будущем ИИ сможет выполнять заметную долю исследовательских математических задач с приемлемыми затратами и участием человека. В качестве примера он приводит второй этап проекта First Proof: из десяти ранее не публиковавшихся задач семь получили хотя бы одно решение от ИИ, которое эксперты признали практически безошибочным либо требующим лишь небольших исправлений.

Главным риском Тао считает переход от дефицита доказательств к их избытку. Машины смогут создавать результаты быстрее, чем специалисты успеют их проверять, объяснять, рецензировать и включать в сложившуюся математическую теорию. Это способно перегрузить журналы и систему рецензирования, а также снизить ценность простого первенства в решении задач.

Тао предлагает считать доказательство неполным, даже если оно прошло формальную машинную проверку, когда ни один человек не способен корректно объяснить результат на экспертном уровне и указать происхождение использованных идей. Он также призывает раскрывать применение автоматизированных инструментов и сохранять участие людей в рецензировании и принятии результатов научным сообществом.