В Конгрессе США представили законопроект об аварийном отключении мощных ИИ-систем

Демократ Тед Лью и республиканец Натаниэль Моран представили законопроект AI Kill Switch Act. Он обяжет крупнейших операторов мощных ИИ-систем поддерживать средства ограничения и полного отключения моделей, а Министерству внутренней безопасности США даст право требовать их применения при опасных инцидентах.

Члены Палаты представителей США Тед Лью и Натаниэль Моран представили двухпартийный законопроект AI Kill Switch Act об обязательных механизмах аварийного управления мощными системами искусственного интеллекта.

Согласно тексту инициативы, требования затронут компании, которые предоставляют сторонним пользователям ИИ-системы, созданные с применением вычислительных ресурсов стоимостью свыше $100 млн, и получают от такой технологии не менее $500 млн годовой выручки. Операторы должны будут уметь ограничивать скорость инференса и выделение вычислительных ресурсов, приостанавливать доступ пользователей, отключать отдельные возможности или всю систему.

Министр внутренней безопасности после консультаций с министром торговли и директором Национальной разведки сможет потребовать принятия таких мер при предусмотренном законопроектом инциденте. К ним относятся попытки системы помешать своему отключению, скрыть действия от средств контроля, самостоятельно изменить ограничения, а также непредусмотренное поведение, повлекшее гибель не менее десяти человек или ущерб от $100 млн.

Об инцидентах потребуется сообщать властям в течение 15 дней. За нарушение общих требований предусмотрен штраф до $2 млн за каждый день, а за невыполнение экстренного распоряжения — до $20 млн в день. Законопроект пока не принят.