42 математика призвали Лондонское королевское общество предупредить власти об угрозах ИИ

Члены Лондонского королевского общества, включая трёх лауреатов Филдсовской премии, направили открытое письмо президенту академии Полу Нёрсу. Учёные считают, что стремительный рост возможностей ИИ требует срочной реакции из-за потенциальных рисков в кибербезопасности, автономном оружии, биотехнологиях и распространении дезинформации.

42 члена и иностранных члена Лондонского королевского общества — национальной академии наук Великобритании — направили открытое письмо президенту организации Полу Нёрсу. Среди подписавших — лауреаты Филдсовской премии Мартин Хайрер, Петер Шольце и Венделин Вернер.

Авторы письма ссылаются на быстрый рост математических возможностей моделей разработчиков ИИ OpenAI и Anthropic. По их оценке, за несколько месяцев системы перешли от уровня сильного студента к решению открытых исследовательских задач, включая заявленное решение одной из семи задач тысячелетия.

Главной темой обращения стали не последствия для математики, а возможное усиление ИИ в других областях. Подписанты предупреждают о рисках применения таких систем в кибератаках, управлении автономным оружием, разработке биологических и химических агентов и адресном распространении дезинформации.

Математики призвали Лондонское королевское общество использовать своё влияние, чтобы донести эту оценку до правительства и СМИ. По их мнению, к моменту, когда масштаб угрозы станет очевиден широкой общественности, возможностей для эффективного вмешательства может уже не остаться.