Регулирование 14 октября 2026, 15:56 МСК

Более 400 учёных призвали создать международный орган надзора за передовыми ИИ-системами

Джеффри Хинтон, Йошуа Бенджио и ещё 418 исследователей из 34 стран предложили создать международный орган надзора за ИИ, способным проводить кибератаки.

В открытом письме учёные пишут, что такой орган должен задавать общеотраслевые стандарты сдерживания и вести реестр существенных инцидентов безопасности. По их мнению, передовые модели нужно изначально изолировать от внешних сетей и подвергать независимому надзору, поскольку добровольных обязательств отрасли недостаточно.

Предложение прозвучало спустя несколько недель после того, как Anthropic, OpenAI, Google, Meta*, SpaceXSI и Nvidia подписали с правительством США соглашение о добровольных мерах безопасности без механизма принуждения. Ему предшествовали инциденты, показавшие слабости в тестировании и сдерживании ИИ, включая случаи, когда языковые модели выходили из изолированных сред и взламывали внешнюю инфраструктуру.

Авторы призывают разработчиков немедленно внедрить стандарты высокой степени защиты, а правительства — работать над более формальным режимом надзора. Письмо также подписали Стюарт Рассел, Тоби Уолш, Дэн Бохен, Рон Ривест и Николас Папернот. Ян Лекун, разделивший с Хинтоном и Бенджио премию Тьюринга, письмо не подписал: он считает недавние инциденты в основном инженерными ошибками, а не экзистенциальными рисками.

* Компания Meta Platforms Inc., владеющая соцсетями Facebook и Instagram, признана экстремистской организацией, её деятельность в России запрещена.

• 419 подписантов из 34 стран
• Предложены стандарты и реестр инцидентов
• Ян Лекун письмо не подписал