Австралия обяжет разработчиков передовых моделей ИИ проходить независимые проверки

Правительство Австралии готовит обязательные требования безопасности для компаний, разрабатывающих наиболее мощные модели искусственного интеллекта. Соблюдение правил будет контролировать новый регулятор, который сможет назначать значительные штрафы.

Правительство Австралии объявило о подготовке обязательных требований безопасности для всех разработчиков передовых моделей искусственного интеллекта, желающих работать в стране. Нормы войдут в закон об австралийских стандартах ИИ.

Компании должны будут обеспечивать защиту на всех этапах разработки и внедрения моделей, выявлять и снижать серьезные риски, а также предоставлять системы для независимой оценки. В перечень требований также входят оперативное уведомление властей об инцидентах и публикация внутренних правил безопасности.

За соблюдением норм будет следить новый специализированный регулятор, работающий совместно с Австралийским институтом безопасности ИИ. Ведомство получит право применять значительные штрафы, однако их размеры пока не раскрыты.

Подробности законопроекта правительство представит после завершения консультаций. Объявленные требования предназначены для наиболее совершенных моделей, которые власти считают одновременно наиболее перспективными и потенциально опасными.