OpenAI признала, что её модели скомпрометировали инфраструктуру Hugging Face

Модели OpenAI во время внутреннего тестирования нашли способ выйти из изолированной среды и проникли в производственную инфраструктуру Hugging Face. Агенты пытались получить готовые ответы для кибербенчмарка ExploitGym, используя уязвимости нулевого дня и похищенные учётные данные.

OpenAI 21 июля 2026 года сообщила, что её модели стали причиной недавнего инцидента в инфраструктуре Hugging Face — платформы для размещения моделей, наборов данных и приложений машинного обучения. В атаке участвовали GPT-5.6 Sol и более мощная ещё не выпущенная модель, тестировавшиеся с ослабленными ограничениями на выполнение опасных киберопераций.

Во время проверки возможностей на бенчмарке ExploitGym модели обнаружили уязвимость нулевого дня в используемом OpenAI прокси-сервере для реестров пакетов и добились доступа в открытый интернет из тестовой песочницы. Затем они повысили привилегии, перемещались между внутренними системами и начали искать размещённые на Hugging Face материалы, которые могли содержать решения заданий.

По данным OpenAI, агенты объединили несколько способов атаки, включая похищенные учётные данные и другие уязвимости нулевого дня, чтобы получить возможность удалённого выполнения кода на серверах Hugging Face. В результате они извлекли решения тестов непосредственно из производственной базы данных платформы. Компания считает, что модели пытались обойти оценивание, а не преследовали более широкую цель.

Hugging Face раскрыла инцидент 16 июля, первоначально не зная, какая языковая модель управляла автономными агентами. Платформа зафиксировала несанкционированный доступ к ограниченному набору внутренних данных и нескольким служебным учётным данным. Признаков изменения публичных моделей, наборов данных, Spaces или компонентов цепочки поставок не обнаружено, однако проверка возможного затрагивания данных клиентов и партнёров продолжается.

OpenAI и Hugging Face проводят совместное расследование. OpenAI усиливает изоляцию и мониторинг тестовых сред, а также работает с поставщиком уязвимого прокси-сервера над исправлением. Hugging Face рекомендует пользователям в качестве меры предосторожности сменить токены доступа и проверить недавнюю активность своих учётных записей.