Глава Google DeepMind предложил создать независимый орган для проверки frontier-моделей ИИ

Генеральный директор Google DeepMind, ИИ-подразделения Google, Демис Хассабис предложил создать независимый орган по стандартам для надзора за выпуском наиболее мощных ИИ-моделей. Сначала лаборатории добровольно передавали бы модели на оценку за срок до 30 дней до релиза, а затем такая проверка могла бы стать обязательным условием вывода frontier-моделей на рынок США.

Генеральный директор Google DeepMind Демис Хассабис предложил создать независимый орган по стандартам для контроля выпусков frontier-моделей ИИ — наиболее передовых моделей, разрабатываемых ведущими лабораториями.

Идея изложена в его публикации на X под названием «A Framework for Frontier AI and the Dawning of a New Age». Хассабис предлагает структуру, похожую на FINRA, саморегулируемую организацию финансовой отрасли США: такой орган мог бы тестировать модели и вырабатывать практики их выпуска.

На первом этапе AI-лаборатории добровольно передавали бы модели на проверку за срок до 30 дней до релиза. После отработки протокола оценка могла бы быть формализована: для развертывания на рынке США frontier-модели должны были бы проходить проверку, а разработчики — устранять критические уязвимости после выпуска.

По замыслу Хассабиса, новая организация должна быть поддержана государством, финансироваться AI-индустрией и работать независимо. В ее состав могли бы войти технические специалисты из отрасли и представители open source, а часть оценок можно было бы передавать профильным группам по безопасности ИИ.

Предложение появилось на фоне критики разовых проверок моделей Anthropic Mythos и OpenAI Sol, которые проводило правительство США: претензии касались нехватки технической экспертизы и непрозрачности решений о допуске моделей к выпуску.