Билл Гейтс призвал готовиться к 20 годам потрясений из-за ИИ

Сооснователь Microsoft считает, что переход к экономике с широко распространённым ИИ займёт около двух десятилетий и приведёт к масштабным изменениям на рынке труда. Он призвал государства ввести обязательные проверки мощных моделей и не допускать удаления встроенных механизмов безопасности.

Сооснователь и бывший глава Microsoft Билл Гейтс в интервью The Verge заявил, что обществу следует готовиться примерно к 20-летнему периоду потрясений, связанных с развитием искусственного интеллекта. По его прогнозу, значимые негативные последствия для рынка труда и кибербезопасности проявятся уже в ближайшие два-три года.

Главной краткосрочной угрозой Гейтс назвал модели, из которых можно удалить защитные механизмы. Такие системы могут упростить проведение сложных кибератак и создание биологических угроз, поэтому ответственность за контроль над ними, по его мнению, нельзя оставлять только разработчикам.

Гейтс предложил обязать операторов моделей выше определённого порога возможностей сохранять защитные функции и мониторинг. Ограничения, по его замыслу, должны применяться на уровне платформ запуска и распространения моделей, а не аппаратного обеспечения: сертифицированная среда не должна позволять пользователю отключить средства безопасности при настройке модели с открытыми весами.

Для технического контроля ИИ он выделил три направления: изменение принципов построения и обучения моделей, развитие методов интерпретируемости и создание внешнего программного слоя с жёсткими правилами использования ресурсов и выполнения действий. Последний подход Гейтс считает наиболее перспективным, хотя признаёт, что надёжных решений пока нет.

Гейтс допустил, что поддержал бы международно согласованное замедление разработки ИИ, однако не видит способа обеспечить его соблюдение. В опубликованном в августе эссе он также предупреждал о риске массового сокращения рабочих мест и призывал заранее готовить экономические и социальные меры для переходного периода.