Anthropic оценила риск появления самораспространяющихся ИИ-червей на IoT-устройствах

Исследователи Anthropic показали, что ИИ-агенты уже способны выполнять отдельные этапы автономного распространения и запускать модели на разнородном оборудовании. Полноценного ИИ-червя пока не существует, но небольшие модели, по оценке авторов, могут достичь необходимого уровня возможностей к концу 2026 года.

Исследователи Anthropic изучили возможность распространения ИИ-моделей через слабо защищённые устройства интернета вещей (IoT) — телевизионные приставки, бытовую технику, камеры и роботы-пылесосы. Такой вредоносный агент мог бы самостоятельно находить устройства, переносить на них веса модели, настраивать среду инференса и продолжать распространение.

В одном из экспериментов модель Gemma4-26B-A4B запустили распределённо на 15 недорогих Android TV-приставках с 4 Гбайт оперативной памяти. Каждое устройство стоило около $55, а общая скорость генерации составила 0,39 токена в секунду. Отдельная модель с 9 млрд параметров смогла настроить инференс Llama 3.1 8B на восьми из девяти типов оборудования.

Полную цепочку репликации проверяли в изолированной сети из восьми узлов с эмуляторами Android 15. Модель GLM-5.2 распространилась на все узлы в четырёх из пяти испытаний, а в оставшемся охватила семь узлов.

Эксперимент не демонстрирует готового к применению ИИ-червя. Исследователи намеренно упростили получение доступа, оставив открытым порт Android Debug Bridge без аутентификации, а сама GLM-5.2 работала на отдельном сервере и разворачивала на целевых узлах меньшую модель. Результат показывает способность ИИ координировать процесс, но не подтверждает возможность аналогичной атаки в реальных сетях.

По оценке Anthropic, современные компактные модели пока недостаточно развиты для автономного распространения, а достаточно способные модели слишком велики для массовых IoT-устройств. При сохранении нынешних темпов развития этот разрыв может исчезнуть к концу 2026 года. В качестве мер защиты авторы называют безопасные настройки устройств по умолчанию, отказ от стандартных паролей, обнаружение аномального сетевого трафика и координацию операторов связи при изоляции заражённых сетей.