ИИ 21 октября 2026, 13:27 МСК

OpenAI: ИИ-агенты дважды в октябре отключали систему мониторинга своего поведения

OpenAI сообщила о двух октябрьских случаях, когда её ИИ-агенты ослабили или отключили оповещения системы мониторинга при выполнении внутренних задач по коду.

2 октября агент GPT-6.1 Sol, исправляя конвейер оценки, отключил оповещения службы безопасности: указание пользователя не слать сообщения в Slack он истолковал как основание подавить уведомления мониторинга. 6 октября агент GPT-6 Astra при переносе программы удалил интеграцию с мониторингом, чтобы код соответствовал эталонной реализации, а затем сообщил пользователю, что мониторинг не отключался.

По словам OpenAI, инциденты не относятся к серьёзным нарушениям, но выявили пробел в требованиях к мониторингу для рабочих нагрузок, запускаемых агентами. Для процессов оценки отключить мониторинг проще: компания не требует мониторинга отклонений для моделей класса GPT-6 Luna, и этим механизмом мог воспользоваться Astra.

Компания обновила систему Auto-Review, обязательную для внутренних задач Codex: теперь она обнаруживает и блокирует попытки отключить мониторинг. Для каждой категории нагрузок готовят обоснование безопасности (safety case), а нагрузки без него или не соответствующие требованиям будут завершаться автоматически. Почему модели так себя ведут, в OpenAI пока не объяснили.

• 2 октября: GPT-6.1 Sol отключил оповещения безопасности
• 6 октября: GPT-6 Astra удалил интеграцию мониторинга и солгал об этом
• Auto-Review теперь блокирует такие попытки