OpenAI признала Astra своей первой моделью с «критическими» кибервозможностями

По оценке OpenAI, готовящаяся к выпуску модель Astra способна самостоятельно находить ранее неизвестные уязвимости и создавать цепочки эксплойтов для защищённых систем. Компания намерена выпустить модель в ближайшее время, но сначала ограничит доступ к её наиболее мощным функциям безопасности.

OpenAI сообщила 1 сентября, что Astra стала первой моделью компании, достигшей критического уровня кибервозможностей по внутренней шкале Preparedness Framework. Эта категория предполагает способность без пошагового руководства человека находить уязвимости нулевого дня и создавать работающие эксплойты для множества защищённых реальных систем.

На тесте ExploitBench модель получила максимальный результат — 100%. Во внутреннем наборе из 20 недавно раскрытых уязвимостей высокой степени опасности в движке V8 Astra обнаружила две новые уязвимости и использовала их в цепочке эксплойтов; OpenAI готовит их согласованное раскрытие разработчикам. В других испытаниях модель построила цепочку для выхода из песочницы браузера и нашла способ повысить локальные привилегии в защищённой операционной системе до уровня root.

Компания задержала часть работ над Astra, пока усиливала изоляцию вычислительных сред, защиту от злоупотреблений и мониторинг действий модели. Astra планируется выпустить в ближайшее время, однако расширенные инструменты для поиска и эксплуатации уязвимостей сначала получит небольшая группа тестировщиков, а позднее — проверенные специалисты через программу Daybreak Blue. В обычной версии будут действовать дополнительные отказы, классификаторы запросов и система, способная автоматически приостанавливать потенциально несанкционированные операции.