Более 400 учёных призвали изолировать киберспособные ИИ-модели от интернета

Джеффри Хинтон, Йошуа Бенджио, Стюарт Рассел и сотни других исследователей подписали открытое письмо о защите внешних систем от ИИ-моделей, способных выполнять кибероперации. Авторы предлагают по умолчанию применять полную сетевую изоляцию таких моделей, а также ввести международные стандарты и обязательную отчётность об инцидентах.

Более 400 специалистов по искусственному интеллекту и информационной безопасности подписали открытое письмо с призывом усилить изоляцию ИИ-моделей, способных выполнять кибероперации. Среди подписавших — исследователи Джеффри Хинтон, Йошуа Бенджио и Стюарт Рассел.

Авторы считают, что разработчики и операторы таких моделей должны немедленно внедрить надёжные средства изоляции и первоначально использовать air gap — полное отключение среды исполнения от интернета. Для систем, которым необходим доступ к внешним сетям, уровень автономности предлагается ограничивать с учётом пока недостаточной предсказуемости действий моделей.

Исследователи также предлагают создать международный орган с участием правительств и экспертов по ИИ и кибербезопасности. Он должен разрабатывать обязательные стандарты изоляции, регистрировать случаи выхода моделей за пределы контролируемой среды и обеспечивать последующую публикацию сведений об инцидентах.