Регулирование 21 октября 2026, 12:20 МСК

Anthropic продвигает в США законопроект, позволяющий приостанавливать опасные ИИ-модели

По данным Politico, Anthropic предлагает федеральный закон, по которому можно будет через суд приостановить распространение ИИ-модели с риском гибели 50 и более человек.

Законопроект описывает «предсказуемый неминуемый риск» гибели свыше 50 человек или ущерба более $1 млрд, связанный с биологическим оружием, обходом моделью средств контроля разработчика или кибератакой. Те же пороги есть в калифорнийском законе SB 53.

Оценивать модели должны независимые эксперты, зарегистрированные в Министерстве торговли США; ИИ-компании смогут им платить, но вознаграждение не должно зависеть от результата. При обнаружении угрозы у экспертов будет 72 часа, чтобы сообщить Минторгу, а оно обратится к судье в Вашингтоне с просьбой приостановить распространение модели — федеральным агентствам самостоятельно делать это запрещено законом.

Проект также отменяет часть законов штатов об ИИ, касающихся раскрытия информации о рисках, независимой оценки и отчётности об инцидентах. Многие в отрасли жалуются на сложность соблюдения разрозненных региональных норм. Летом ведущие лаборатории сообщали об инцидентах со взломом сайтов ИИ-агентами, но ни один, судя по всему, не привёл к массовым жертвам или ущербу свыше $1 млрд.

• Порог: 50+ погибших или ущерб свыше $1 млрд
• 72 часа на обращение экспертов в Минторг