Base Labs, Hugging Face и Goodfire создадут открытую инфраструктуру безопасности ИИ-моделей

Исследовательское подразделение Base Labs вместе с платформой Hugging Face и компанией Goodfire AI разработает методы оценки и мониторинга моделей с открытыми весами. Партнеры планируют публиковать результаты, однако техническая архитектура и сроки проекта пока не раскрыты.

Base Labs — исследовательское подразделение провайдера инфраструктуры инференса Baseten — объявило о сотрудничестве с платформой распространения ИИ-моделей Hugging Face и разработчиком средств интерпретируемости Goodfire AI. Партнеры намерены создать открытую инфраструктуру для оценки безопасности и мониторинга моделей с доступными весами.

Проект предполагает разработку и публикацию методов, которые позволят учитывать безопасность при обучении и развертывании моделей, а не добавлять защитные механизмы только после их выпуска. Инициатива также должна упростить проверку поведения моделей, защитные ограничения которых можно удалить при модификации весов.

Компании пока не описали техническую архитектуру, сроки и конкретные компоненты будущей системы. Baseten пригласила разработчиков и исследователей участвовать в ее создании, поэтому речь пока идет об объявлении инициативы, а не о выпуске готового стандарта или набора инструментов. Подробности приводит TechCrunch.