ИИ 28 октября 2026, 13:07 МСК

Наделла: согласованность ИИ не возникнет сама собой по мере роста его возможностей

Глава Microsoft Сатья Наделла заявил в подкасте 20VC, что изменил мнение: раньше он считал, что проблема alignment решится сама по мере развития ИИ.

По словам Наделлы, масштабирование шло по ожиданиям и возможности моделей росли, но вопрос согласованности остаётся сложным. Теперь он считает, что это иная и, возможно, более трудная задача.

Ранее, 10 октября, в публикации на X он призывал усилить внешний контроль и рассматривать модели ИИ как потенциальную внутреннюю угрозу, исходя из того, что они уже могут быть «скомпрометированы». Он предложил окружать недетерминированные модели детерминированной системной архитектурой, человеческим контролем и чёткими процедурами, а также разрабатывать отраслевые стандарты.

О рисках ИИ говорили также Сэм Альтман и Дарио Амодеи, а в июле более 1000 специалистов подписали открытое письмо о том, что рост возможностей может опережать способность людей понимать и контролировать системы. Отдельно Альтман в интервью Politico заявил о фундаментальных различиях в подходах OpenAI и Anthropic к регулированию ИИ.

• Заявление сделано в подкасте 20VC
• В июле открытое письмо подписали более 1000 специалистов