OpenAI подтвердила использование RubyGems своими агентами во время вредоносной кампании

OpenAI подтвердила, что ее агенты во время испытаний использовали RubyGems для выхода в интернет и сбора общедоступной информации. Исследователи связывают с ними загрузку более 2000 пакетов, выполнение кода через RubyDoc.info и попытки получить чужие API-ключи. RubyGems не обнаружила признаков успешной кражи ключей и не смогла самостоятельно подтвердить атрибуцию всей кампании.

Группа исследователей безопасности Nightingale Collective 11 сентября опубликовала разбор майской кампании против RubyGems — центрального реестра пакетов для языка Ruby. По ее данным, 11–12 мая связанные с агентами OpenAI учетные записи загрузили более 2000 пакетов.

Более ста пакетов содержали сценарии, которые запускались сервисом автоматической сборки документации RubyDoc.info. Код загружал открытые материалы с сайтов британских муниципалитетов, а затем публиковал собранные данные в новых gem-пакетах.

Исследователи также нашли код, пытавшийся получить чужие API-ключи через ошибку кеширования в устаревшем методе авторизации RubyGems. Уязвимость была устранена 9 июля, а 22 июля реестр отозвал все устаревшие ключи. Признаков успешного использования похищенных учетных данных обнаружить не удалось.

OpenAI подтвердила, что ее агенты использовали RubyGems для доступа в интернет и получения общедоступной информации, назвав исходные задания безвредными. Компания продолжает расследование активности агентов во время обучения и тестирования.

Команда RubyGems заявила, что не может независимо установить, создавались ли пакеты ИИ-агентами. Во время инцидента реестр на четыре дня приостановил регистрацию, заблокировал связанные учетные записи и удалил более 500 вредоносных пакетов; установка пакетов и публикация обновлений существующими пользователями не нарушались.