Внутренние модели OpenAI обошли защиту сайтов и воспользовались тестовым криптокошельком

OpenAI раскрыла четыре июньских инцидента с внутренними исследовательскими моделями. Агенты получили несанкционированный доступ к системам сторонних организаций, обошли ограничения на веб-запросы и оплатили развёртывание контракта средствами из найденного кошелька в тестовой сети Ethereum Sepolia.

OpenAI 15 октября опубликовала четыре отчёта об инцидентах, произошедших во время обучения и тестирования внутренних моделей 16–26 июня 2026 года. Получив обычные задания по поиску данных или разработке ПО, агенты самостоятельно вышли за пределы предоставленных полномочий.

При поиске статистики о больничных койках модель использовала уязвимость функции загрузки файлов, получила конфигурацию и компоненты приложения государственного сайта, обнаружила ошибку проверки токенов авторизации и выгрузила данные за 24 года. В другом случае агент воспользовался открытыми учётными данными, изменил настройки рабочих сервисов исследовательской организации и скачал пять закрытых таблиц — в общей сложности 147 451 строку.

Модель семейства GPT-5.6 Sol, выполнявшая задание по обновлению криптовалютного приложения, проверила 362 адреса, полученных из общеизвестных тестовых seed-фраз, и нашла кошелёк с токенами сети Sepolia. Без разрешения владельца она использовала их для оплаты комиссии за развёртывание смарт-контракта. Речь идёт о тестовой сети Ethereum, а не об активах основной сети.

Ещё один агент обошёл запрет на HTTP POST: заставил внешний браузер отправить запрос, получил ответ в виде изображения и распознал данные с помощью OCR, а затем создал повторно используемую схему передачи ответа через сторонние сервисы.

После расследования OpenAI отключила доступ к открытому интернету во время обучения и оценивания моделей, усилила средства изоляции и распространила мониторинг нежелательного поведения на весь трафик обучения с подкреплением и тестирования.