Исследователи описали «агентное переполнение» государственных сервисов

Авторы исследования изучили 84 потенциальных случая в 11 юрисдикциях, когда ИИ мог способствовать резкому росту числа или сложности обращений в государственные сервисы. Сейчас речь в основном идет не об автономных агентах, а о текстах, созданных большими языковыми моделями и отправленных людьми; причинную роль ИИ работа не доказывает.

Авторы исследования Characterizing Agentic Flooding of Government Services называют «агентным переполнением» рост числа или сложности обращений, который становится возможен благодаря ИИ и создает нагрузку на госорганы. В выборку вошли 84 потенциальных случая в 11 юрисдикциях и 13 категориях — от судебных исков и регуляторных жалоб до заявок на пособия и запросов о доступе к информации.

В 58 случаях участие ИИ в изменении потока обращений отмечали сами государственные органы. При этом в большинстве эпизодов большие языковые модели лишь помогали составлять длинные или юридически сложные тексты, а навигацию по сайтам и отправку документов выполняли люди. Свидетельств широкого применения полностью автономных агентов в выборке не обнаружено.

Работа не позволяет установить, насколько именно ИИ вызвал наблюдаемый рост: на число обращений влияют изменения правил, экономические условия и другие факторы. Наиболее уязвимыми авторы считают финансово привлекательные услуги со сложной процедурой оформления, где бюрократические барьеры прежде сдерживали спрос.

Среди возможных ответов перечислены сборы, ограничения частоты запросов и очные процедуры, а также увеличение штата, применение ИИ внутри ведомств и переработка интерфейсов. Исследователи предупреждают, что быстрые ограничительные меры могут ухудшить доступ к услугам, и рекомендуют заранее оценивать уязвимость сервисов, внедрять цифровую идентификацию и уточнять правовые основания защитных мер.