Маск поддержал призыв замедлить разработку ИИ, Альтман — независимый аудит

Илон Маск согласился с предложением главы Anthropic Дарио Амодея снизить скорость наращивания возможностей передовых ИИ-моделей. Гендиректор OpenAI Сэм Альтман поддержал ключевой пункт плана — постоянный доступ независимых оценщиков к внутренним процессам — и заявил, что его компания поступит так же.

Илон Маск поддержал предложение главы Anthropic, разработчика ИИ-моделей Claude, Дарио Амодея замедлить развитие возможностей передовых систем искусственного интеллекта. «Дарио прав», — написал Маск.

Гендиректор OpenAI Сэм Альтман сообщил, что этот вопрос был одной из основных тем обсуждений в компании в последние недели. Он поддержал идею предоставить независимым оценщикам доступ к внутренним процессам на уровне сотрудников и заявил, что OpenAI внедрит такой подход.

В своем плане Амодей уточнил, что не предлагает полностью останавливать обучение моделей. Он призвал согласовать темпы развития возможностей ИИ с готовностью средств безопасности, допустить внешних оценщиков, выработать общие отраслевые стандарты и организовать координацию между государствами.

Anthropic уже обязалась выполнить первый пункт: внешняя команда должна получить рабочие места, корпоративные устройства и доступ к инструментам, сопоставимый с доступом внутренних специалистов по рискам. Оценщики смогут публиковать сведения об инцидентах и соблюдении мер безопасности с ограниченными изъятиями конфиденциальной информации.