Anthropic заявила о сокращении извлечения токенов рассуждений Claude на 90–99%

Anthropic внедрила систему защиты Claude от нелегальной дистилляции — массового сбора ответов модели для обучения конкурирующих нейросетей. По предварительной оценке компании, объем извлекаемых злоумышленниками токенов скрытых рассуждений снизился в 10–100 раз.

Anthropic сообщила о результатах внедрения новых средств защиты Claude от нелегальной дистилляции. После их развертывания объем токенов рассуждений, успешно извлекаемых через платформу компании, стал в 10–100 раз меньше, что соответствует снижению примерно на 90–99%.

При дистилляции злоумышленники отправляют модели миллионы запросов, а затем используют полученные ответы для обучения другой нейросети. Особенно ценны полные цепочки рассуждений Claude: они позволяют воспроизводить не только итоговые ответы, но и способы решения задач.

Защита Anthropic ограничивает перенос защищенных блоков рассуждений между моделями, диалогами и учетными записями. Двухступенчатый классификатор выявляет попытки извлечения таких данных, после чего система вводит ограничения или блокирует аккаунты. По данным компании, доля ложных срабатываний классификатора составляет менее 0,1%, а за дистилляцию уже заблокированы десятки тысяч учетных записей.

Anthropic также связала промышленные кампании по дистилляции с китайскими разработчиками ИИ Zhipu и Moonshot. Компания признала, что защита создает неудобства и для добросовестных клиентов: некоторым разработчикам пришлось обновить интеграции, а отдельные легитимные запросы могут быть ошибочно заблокированы. Полученные показатели Anthropic называет предварительными и ожидает появления новых способов обхода защиты.