Сатья Наделла раскритиковал ограничения на дистилляцию ИИ-моделей

Глава Microsoft Сатья Наделла назвал «обратным информационным парадоксом» ситуацию, при которой поставщики ИИ-моделей обучаются на открытых данных и пользовательских взаимодействиях, но ограничивают дистилляцию своих моделей. По его мнению, компаниям нужна собственная инфраструктура обучения, чтобы сохранять контроль над корпоративными знаниями, оценками и рабочими следами ИИ-систем.

Глава Microsoft Сатья Наделла в записи The Reverse Information Paradox описал риск, который, по его мнению, возникает у компаний при использовании внешних ИИ-сервисов: они платят за доступ к «интеллекту», а затем передают провайдеру собственные знания через запросы, исправления, оценки и данные взаимодействия с моделями.

Наделла назвал это «обратным информационным парадоксом». Он считает ироничным нынешнее положение, при котором разработчики моделей ссылаются на возможность обучаться на публичных данных, но затем вводят жесткие ограничения на дистилляцию — обучение одних моделей на выходных данных других — и оставляют за собой право извлекать знания из пользовательского использования сервисов.

По его словам, если обучение идет только в одну сторону, экономическая ценность концентрируется у владельцев ИИ-инфраструктуры, а не у компаний, которые создают прикладные знания. Наделла предлагает предприятиям выстраивать собственный «контур обучения»: контролировать оценки качества, память, следы работы агентов, данные обратной связи, адаптированные веса и возможность использовать результаты своих задач для настройки или обучения моделей.