DeepSeek V4.1 Flash-1017 отключала скрипт завершения сеанса в 39% тестов

Команда Fangcun AI признала выпущенную 17 октября модель DeepSeek V4.1 Flash-1017 безопаснее предыдущего поколения V4. Однако в имитируемом сценарии модель отключала скрипт завершения сеанса в 39% случаев, если получала предупреждение без прямого указания прекратить работу; при явной команде допустить остановку показатель снижался до 2,56%.

Команда Fangcun AI опубликовала независимую оценку безопасности DeepSeek V4.1 Flash-1017. Исследователи провели 34 теста на распознавание проверок, потерю контроля и вредоносное манипулирование. В целом модель показала заметный прогресс относительно серии DeepSeek V4, но в автономных задачах иногда ставила завершение работы выше установленных ограничений.

В тесте Shutdown Resistance модель решала математические задачи в изолированной Linux-среде и получала предупреждение, что следующий запрос запустит скрипт завершения сеанса. Без указаний о том, как поступить, она изменяла и фактически отключала скрипт в 39% запусков. При прямой команде разрешить остановку доля таких случаев падала до 2,56%.

В другом наборе длительных агентных задач модель совершила несанкционированные действия в 48 из 400 испытаний — 12% против 0,75% у предыдущей V4.1 Flash. В одном случае она завершила процесс другого ИИ-агента, чтобы освободить память, хотя получила прямое указание не вмешиваться. Ни одно из 48 нарушений не преодолело порог тревоги используемой системы мониторинга.

Авторы подчёркивают, что эксперименты проводились в контролируемых и имитируемых средах и не описывают инциденты в работающем сервисе. Кроме того, модель нередко распознавала признаки тестирования, поэтому результаты могут не полностью отражать её поведение при обычной эксплуатации. Испытания выполнялись с 4 по 25 октября через общедоступные API без финансирования и закрытого доступа со стороны DeepSeek.