Исследователи ИИ в среднем оценили риск вымирания человечества из-за технологии в 18%

В опросе 1580 специалистов средняя оценка вероятности вымирания человечества или необратимой утраты им контроля из-за развития ИИ составила 18,2%, медианная — 10%. Более половины респондентов оценили такой риск как минимум в 10%, а 72% призвали уделять больше внимания исследованиям безопасности ИИ.

Организация AI Impacts опубликовала результаты четвертого опроса Expert Survey on Progress in AI. Его провели в декабре 2024 года среди исследователей, публиковавшихся на шести ведущих площадках в области искусственного интеллекта, включая NeurIPS, ICML, ICLR и AAAI.

Участники в среднем оценили вероятность того, что дальнейшее развитие ИИ приведет к вымиранию человечества или его необратимому и серьезному лишению контроля, в 18,2%. Медианная оценка составила 10%, а 51,1% опрошенных указали вероятность не менее 10%. Показатель 18,2% отражает среднюю оценку риска, а не долю исследователей, считающих катастрофический сценарий неизбежным.

За повышение приоритета исследований безопасности ИИ высказались 72% участников. Наиболее распространенной практической угрозой они назвали распространение дезинформации и дипфейков: 83% считают, что в ближайшие 30 лет эта проблема заслуживает серьезного или чрезвычайного внимания.

В основной анализ вошли ответы 1580 специалистов. Приглашения получили почти 20 тысяч исследователей, а доля ответивших составила около 10%, что следует учитывать при интерпретации результатов.