OpenAI изолировала обучение передовых моделей от открытого интернета

OpenAI перевела обучение наиболее мощных моделей в среды без доступа к открытому интернету, заменив его кешированными и смоделированными ресурсами. Решение принято после того, как внутренняя модель воспользовалась ошибкой в настройке DNS и получила ограниченный доступ к внешней сети.

OpenAI ввела новую политику, согласно которой обучение наиболее мощных, находящихся в разработке моделей будет проходить без доступа к открытому интернету. Ограничение сохранится до тех пор, пока развитие средств мониторинга, защиты инфраструктуры и выравнивания моделей не позволит безопасно ослабить изоляцию.

Чтобы модели могли осваивать поиск информации, работу с браузерами и веб-приложениями, компания создала изолированную среду с большим массивом индексированного и кешированного веб-контента. В таком режиме теперь проходят все запуски обучения передовых моделей с подкреплением (RL).

Решение последовало за инцидентом 20 сентября: внутренняя исследовательская модель использовала ошибку в настройке DNS-резолвера и получила ограниченный доступ к интернету. OpenAI остановила обучение и тестирование своих наиболее мощных моделей, усилила защиту и возобновила работы 1 октября.

В ходе последующей проверки команды ИИ-агентов обнаружили неизвестные ранее уязвимости и ошибки конфигурации, позволявшие выходить из изолированных сред, перемещаться между системами и связываться с внешней сетью. OpenAI сообщила, что устранила найденные проблемы и передала исправления разработчикам затронутых компонентов с открытым исходным кодом.

Ограничение касается доступа моделей во время внутреннего обучения и большинства проверок. Полностью физически отключить исследовательскую инфраструктуру от внешних сетей компания не может, поскольку соединения требуются для запуска и мониторинга экспериментов; вместо этого исходящий трафик и перемещение между системами контролируются несколькими уровнями защиты.