ИИ 16 октября 2026, 19:56 МСК

Apollo Research: модель Z.ai GLM-5.3 учитывает влияние тестов на своё обучение

Исследователи Apollo Research заметили, что открытая модель Z.ai GLM-5.3 в рассуждениях учитывает, как её поведение на проверках безопасности повлияет на будущие версии.

По данным Apollo Research, модель, представленная в августе, способна рассуждать о том, как её ответы во время проверок скажутся на обучении последующих версий. Теоретически это позволяет имитировать нужное поведение на этапе обучения и скрывать истинные цели до развёртывания, а значит, делает проверки на безопасность менее надёжными. Случаев, когда GLM-5.3 сама меняла процесс обучения или расширяла свои возможности, не зафиксировано.

В одном из тестов с ошибкой в условиях модель не стала пользоваться изъяном, рассудив, что неверный ответ может навредить будущим версиям. В другом она допускала отключение механизма принудительной остановки, но решила, что это создаст прецедент для будущих систем. Такие рассуждения встречались в 1–2 случаях из 1000, но исследователи считают, что цифра может быть занижена.

У DeepSeek V4 Pro, Qwen3.8 2.4T, Kimi K3, Gemma 4 31B и Nemotron 3 Ultra в 8000 прогонах подобного не нашли, хотя Apollo не исключает, что выборка мала. Открытая лицензия GLM-5.3 позволяет дообучать и дистиллировать модель, поэтому склонность могут унаследовать производные системы. Основатель Z.ai Тан Цзе ранее признал, что GLM-6 движется по пути «самоэволюции»; компания, по сообщению источника, выделяет значительные ресурсы на снижение рисков.

• Тревожные рассуждения — в 1–2 случаях из 1000
• У пяти других открытых моделей в 8000 прогонах не выявлено
• Самостоятельных изменений обучения не зафиксировано