FT: OpenAI расформировала команду оценки катастрофических рисков ИИ

OpenAI в конце июля расформировала команду Preparedness, проверявшую перспективные модели на наличие опасных возможностей, сообщает Financial Times со ссылкой на источники внутри компании. Оценку биологических и киберрисков передали другим подразделениям.

OpenAI в конце июля 2026 года расформировала команду Preparedness, которая оценивала, могут ли модели компании создавать серьёзные или катастрофические риски, сообщает Financial Times со ссылкой на источники внутри компании.

OpenAI создала подразделение в 2023 году. В круг его задач входила оценка угроз в сфере кибербезопасности, убеждения людей, химических, биологических, радиологических и ядерных технологий, а также способности ИИ автономно воспроизводиться и адаптироваться.

После реорганизации работу по биологическим и киберрискам распределили между существующими группами. Бывший руководитель подразделения Дилан Скандинаро сосредоточился на рисках, связанных с рекурсивно самоулучшающимися системами, способными оптимизировать себя и обучать другие модели.

Сооснователь OpenAI Грег Брокман заявил, что компания теснее интегрировала работу над безопасностью в процесс разработки моделей.