Регулирование 1 ноября 2026, 13:49 МСК

Anthropic и OpenAI предложили Калифорнии меры остановки опасных ИИ

Anthropic предлагает судебную приостановку опасных ИИ-систем, а OpenAI — обязательные механизмы аварийного отключения с распределением ответственности между операторами.

Компании направили предложения губернатору Калифорнии Гэвину Ньюсому в рамках подготовки дополнительных мер безопасности для наиболее мощных ИИ-систем. Его распоряжение пока не вводит новых обязательных требований.

Anthropic предлагает дать генеральному прокурору штата право добиваться через суд временной остановки системы, если независимая проверка подтвердит риск катастрофического ущерба. Компания также выступает за независимые оценки безопасности и отчёты о рисках не реже раза в полгода.

OpenAI предлагает обязать участников, управляющих соответствующими операциями, создавать и применять механизмы остановки обучения, изоляции агентов, отзыва доступа к инструментам или приостановки сервиса. Обе компании поддерживают независимые проверки и расширение отчётности об инцидентах, но OpenAI предлагает отделить техническую оценку безопасности от ежегодного аудита соблюдения требований.

• Предложения готовятся в рамках распоряжения губернатора Калифорнии
• Anthropic выступает за судебную приостановку при подтверждённом риске
• OpenAI подчёркивает, что универсальной кнопки отключения ИИ не существует