ТехноСводка

Регулирование

Anthropic перепишет часть своего проекта закона об ИИ после критики

Anthropic пересмотрит часть собственного проекта федерального закона о безопасности ИИ после критики специалистов по безопасности и законодателей.

Поводом стал конфиденциальный документ, который компания обсуждала с сотрудниками Конгресса США и который опубликовало Politico. Критики считают, что правила слабее двухпартийного законопроекта Frontier Act. По тексту, запретить выпуск или использование модели можно только при узких условиях: риск должен быть предсказуемым и непосредственным, а ущерб — превышать $1 млрд или включать гибель либо тяжёлые травмы более чем 50 человек. Министерству торговли пришлось бы обращаться в федеральный суд. Претензии вызвали также ограничение полномочий штатов и оплата независимых аудиторов самими разработчиками.

Сенатор Калифорнии Скотт Винер заявил, что предложение недостаточно защищает общество. 18 октября руководитель федерального направления Anthropic Энтони Чимино признал формулировки о приоритете федерального закона «недостаточно точными»; компания пересмотрит пороги риска, подход к блокировке моделей и требования к оценщикам.

Критика пришла и с другой стороны: бывший куратор ИИ в Белом доме Дэвид Сакс считает, что низкий порог для передовых моделей затронет значительную часть Кремниевой долины и навредит стартапам. Окончательной редакции законопроекта пока нет.

  • Порог ущерба: более $1 млрд или более 50 пострадавших
  • Чимино: формулировки будут пересмотрены

Источники

Текст подготовлен автоматически по материалам источников и может содержать неточности.