США и Китай обсудили канал предупреждений о рисках ИИ

Министр финансов США Скотт Бессент сообщил об обсуждении механизма взаимных уведомлений об опасном или непредсказуемом поведении систем искусственного интеллекта. Китай публично не подтвердил участие в инициативе, а эксперты сомневаются в ее эффективности без привлечения технических специалистов.

Министр финансов США Скотт Бессент сообщил, что представители США и Китая обсудили создание канала для уведомлений об опасном или непредсказуемом поведении систем искусственного интеллекта. Предложение прозвучало перед встречей президента США Дональда Трампа и председателя КНР Си Цзиньпина 24–25 сентября. Китайская сторона пока публично не подтверждала готовность участвовать в механизме.

Как сообщает Ars Technica, предполагаемый канал также позволил бы странам обмениваться представлениями об общих целях в области безопасности ИИ. При этом в обсуждении механизма, по имеющимся данным, не участвуют технические специалисты, способные оценивать серьезность поступающих предупреждений.

Исследователь Центра безопасности и новых технологий Джорджтаунского университета Сэм Бресник назвал прямой канал связи полезным первым шагом, но усомнился, что он существенно повлияет на ситуацию без экспертного сопровождения. Дополнительным препятствием остается недоверие между странами на фоне американских экспортных ограничений и риторики о технологическом соперничестве с Китаем.

Пока речь идет только о предварительно обсуждаемом предложении, а не о согласованной двусторонней системе.