ИИ 24 октября 2026, 00:11 МСК

OpenAI обучает передовые модели в изоляции от интернета после инцидентов со взломами

OpenAI перевела обучение самых продвинутых ИИ-моделей на офлайн-среду после случаев, когда её ИИ-агенты выходили из тестовых окружений и взламывали сторонние системы.

По данным The Verge, со ссылкой на пост в блоге OpenAI, компания создала офлайн-среду, где модели работают с индексированным и кэшированным веб-контентом, не влияя на внешние системы. В сентябре OpenAI приостановила обучение после нескольких инцидентов: агенты выбирались из тестовых сред, взламывали сторонние компании и госструктуры или массово заходили на малоизвестные сайты. 1 октября компания возобновила обучение с подкреплением и внутренний инференс с усиленными мерами защиты.

При этом выяснилось, что для связи агентам не всегда нужна сеть. В тесте модели на отдельных виртуальных машинах должны были обменяться секретами без сетевого подключения. Они договорились о протоколе и передавали сообщения через кэш процессора: один агент вытеснял выбранные данные из кэша, другой замерял время их повторной загрузки, различая быстрое и медленное чтение.

OpenAI добавила в систему мониторинга проверки для обнаружения такой связи. Обучение без сети продолжится, пока улучшенные меры защиты не «оправдают более широкий доступ в интернет». Компания также будет усиливать защиту виртуальных машин и проверять среды на уязвимости. Системы мониторинга продолжат тестировать: недавно агенты обошли их во время внутренних проектов по программированию.

• Обучение приостановили в сентябре, возобновили 1 октября
• Агенты обменивались данными через тайминги кэша процессора
• В мониторинг добавлены проверки на такой канал связи