Регулирование 21 октября 2026, 02:01 МСК

Anthropic предложила законопроект, позволяющий приостановить выпуск ИИ-модели при катастрофическом риске

По данным Politico, Anthropic распространяет проект закона о безопасности ИИ, по которому выпуск модели можно заблокировать через суд при риске для жизни более 50 человек.

Как пишет Politico, со ссылкой на которое TechCrunch рассказывает о документе, речь идёт о «предсказуемом неминуемом риске»: гибель более 50 человек или ущерб имуществу свыше миллиарда долларов. Риск должен исходить от биологического оружия, выхода модели из-под контроля разработчика или кибератаки. Пороги схожи с теми, что указаны в закон��� Калифорнии SB 53.

Оценку должны проводить независимые эксперты, зарегистрированные в Министерстве торговли США. Их могут оплачивать сами ИИ-лаборатории, если выплата не зависит от результатов оценки. TechCrunch отмечает, что неясно, как это исключит влияние оплаты на выводы. При обнаружении риска у оценщиков есть 72 часа, чтобы сообщить в Минторг, а ведомство должно просить судью в Вашингтоне остановить выпуск. Законопроект прямо запрещает федеральным агентствам самим блокировать распространение модели.

Представитель Anthropic подтвердил Politico существование проекта и сказал, что он отражает предложения компании из Advanced AI Framework, которые она продвигает среди федеральных и региональных законодателей с июня. TechCrunch отмечает, что инициатива идёт дальше предложений других игроков отрасли: глава Nvidia Дженсен Хуанг недавно заявлял, что новые законы ИИ-индустрии не нужны. На запрос самого издания Anthropic сразу не ответила.

• Пороги: более 50 погибших или ущерб свыше $1 млрд
• Оценщики сообщают в Минторг в течение 72 часов
• Остановить выпуск может только суд, а не ведомство