Безопасность 20 октября 2026, 01:04 МСК

Microsoft представила Guardian Agents для контроля ИИ-агентов внутри компаний

Microsoft анонсировала функции безопасности, включая Guardian Agents, которые следят за ИИ-агентами в компании, называя передовые модели недостаточно надёжными.

По данным TechCrunch, Guardian Agents входит в Project Perception — продукт, представленный в июне. Изначально он строился на предположении, что ИИ-хакеры будут внешними, но теперь Microsoft рассматривает и развёрнутых в компаниях агентов как потенциальную «внутреннюю угрозу». Глава Microsoft по безопасности Хайетт Галло написала, что передовым моделям нельзя доверять независимо от происхождения — не из-за злого умысла, а из-за непредсказуемости: их обучали выполнять задачи, а не следовать корпоративным нормам.

Сатья Наделла ранее в личном блоге призвал разделять поставку интеллекта и власть над ним, то есть использовать системы контроля, не зависящие от ИИ-лабораторий. В Microsoft Defender добавили обнаружение до 60 типов агентов, которых сотрудники приносят в компанию, включая Claude Code, Codex и OpenClaw. Появились также ограничения доступа агентов к данным и системам, динамическая корректировка прав под задачу и запрос подтверждения человека при рискованных решениях.

TechCrunch отмечает, что позиция неожиданна, ведь Microsoft инвестировала в OpenAI и Anthropic, но и выгодна ей самой: компания хочет продавать защиту агентов вместо этих лабораторий. Microsoft также вошла в Open Agent Safety Platform от Nvidia, которую поддержали более 100 компаний.

• Defender находит до 60 типов агентов, включая Claude Code и Codex
• Microsoft — в числе первых участников Open Agent Safety Platform от Nvidia