Регулирование 17 октября 2026, 07:11 МСК

Anthropic направила Конгрессу США черновик закона о блокировке опасных ИИ-моделей

Anthropic предложила американским законодателям законопроект, по которому выпуск передовой ИИ-модели можно запретить через суд при риске ущерба от $1 млрд или гибели не менее 50 человек.

О документе сообщило издание Politico. По словам представителей Anthropic, он основан на рамочных принципах создания передового ИИ, которые компания продвигает через членов парламента с июня этого года.

Под риском понимаются создание биологического оружия, потеря разработчиком контроля над моделью или кибератаки. Оценивать опасность должны независимые аудиторы, зарегистрированные в Министерстве торговли США; о крупном неизбежном риске они обязаны сообщить ведомству в течение 72 часов после завершения аудита. Работу аудиторов готова оплачивать сама Anthropic, утверждая, что это не повлияет на результаты.

Минторг сможет добиваться судебного запрета, но блокировать модель вправе только федеральный судья окружного суда по округу Колумбия; другие ведомства и чиновники, по замыслу Anthropic, вмешиваться не должны. Законопроект также предполагает внутренние подразделения безопасности у разработчиков, публикацию отчётов, сообщения о серьёзных сбоях и защиту информаторов.

По данным Politico, часть положений перекликается с калифорнийским законодательством об ИИ, принятым в прошлом году. До сих пор Anthropic публично не лоббировала федеральные законы об ИИ, а ни один зафиксированный инцидент не привёл к ущербу свыше $1 млрд или массовой гибели людей. Отношения компании с властями непростые: 3DNews пишет, что с марта она отнесена к поставщикам, представляющим угрозу национальной безопасности.

• Порог: ущерб от $1 млрд или гибель не менее 50 человек
• Аудиторов регистрирует Минторг США, отчёт — в течение 72 часов
• Блокировать модель вправе только федеральный судья