Anthropic открыла исследователям METR доступ к внутренним системам оценки рисков

Шесть специалистов некоммерческой организации METR получили доступ к оборудованию, инструментам и данным Anthropic на уровне внутренних групп оценки рисков. METR сможет самостоятельно публиковать выводы о безопасности моделей и практиках компании.

Anthropic предоставила шести сотрудникам независимой исследовательской организации METR корпоративные ноутбуки, рабочие места и доступ к внутренним инструментам и системам. Объём доступа примерно соответствует возможностям собственных групп Anthropic, занимающихся оценкой рисков передовых моделей искусственного интеллекта.

METR будет анализировать уровни риска, инциденты и применяемые Anthropic меры безопасности. Компания не сможет запретить публикацию результатов, но вправе потребовать удалить сведения из заранее определённых категорий, включая данные клиентов, информацию, защищённую адвокатской тайной, и подробности архитектуры моделей. METR сможет публично сообщать, считает ли такое редактирование обоснованным.

Anthropic также формирует трёхуровневую систему сотрудничества с внешними оценщиками. METR стала первым участником высшего уровня, предполагающего доступ, близкий к доступу сотрудников компании. На нижних уровнях объём раскрываемых данных и права на публикацию ограничены.