Anthropic предложила Конгрессу США механизм блокировки опасных ИИ-моделей

Разработчик семейства моделей Claude передал американским законодателям проект регулирования передовых систем искусственного интеллекта. Он предусматривает судебную блокировку моделей при непосредственном риске гибели или тяжелого травмирования более 50 человек либо ущерба свыше $1 млрд.

Компания Anthropic, разработчик семейства больших языковых моделей Claude, представила членам Конгесса США проект закона о безопасности передовых систем искусственного интеллекта. Об этом сообщило Politico со ссылкой на три источника, знакомых с инициативой.

Предложение допускает блокировку выпуска или использования модели, если она создает предсказуемый и непосредственный риск ущерба более чем на $1 млрд либо гибели или тяжелого травмирования свыше 50 человек. Вмешательство должно быть связано с созданием или применением биологического оружия, выходом модели из-под контроля разработчика либо кибератакой.

Оценивать угрозы должны независимые эксперты, зарегистрированные Министерством торговли США. На основании их заключений ведомство сможет обращаться в суд с требованием ограничить развертывание модели. Для разработчиков также предлагаются обязательные отчеты о рисках и инцидентах, программы безопасности и защита сотрудников, сообщающих о нарушениях.

Инициатива развивает положения опубликованной Anthropic в июне 2026 года концепции регулирования передового ИИ. Пока речь идет о проекте, представленном законодателям, а не об официально принятом законе.