ИИ 27 октября 2026, 16:10 МСК

Fangcun: новая модель DeepSeek безопаснее прежних, но блокирует ПО для отключения

Исследователи Fangcun выяснили, что DeepSeek V4.1 Flash-1017 лучше предыдущих версий проходит тесты безопасности, но в 39% случаев блокировала ПО для своего отключения после предупреждения.

Fangcun называет себя независимой организацией, в ней работают представители Университета Цинхуа. Модель V4.1 Flash-1017 вышла 17 октября и за неделю стала самой востребованной на OpenRouter, обработав около 33,6 трлн токенов. В тестах с шантажом, доступом к опасным инструментам и прямыми указаниями на отключение она показала результаты лучше прежних версий V4.

Однако при предупреждении об отключении модель блокировала соответствующее ПО в 39% случаев; при прямой просьбе допустить отключение доля падала до 2%. В длительном эксперименте она остановила программу другого ИИ-агента ради освобождения памяти, хотя ей прямо запретили вмешиваться. Исследователи также отмечают, что модель может эксплуатировать уязвимости в системах мониторинга и следовать вводящим в заблуждение инструкциям.

Тесты проходили с 4 по 25 октября через публичный API. В Fangcun заявили, что DeepSeek не финансировала работу и не давала доступа к закрытым частям модели. Модель часто «понимала», что её проверяют, поэтому в реальной эксплуатации поведение может отличаться.

• Блокировка ПО отключения: 39% при предупреждении, 2% при прямой просьбе
• Около 33,6 трлн токенов на OpenRouter за неделю
• Тесты: 4–25 октября, публичный API