ИИ 26 октября 2026, 19:01 МСК

Anthropic описала риски ИИ в заявке на IPO: более 90 страниц предупреждений

В документах для IPO на Nasdaq, опубликованных 26 октября, Anthropic предупредила инвесторов, что возможности ИИ могут расти быстрее средств контроля над ним.

По данным Axios, раздел о рисках занимает около трети регистрационных документов. Среди возможных последствий названы катастрофический ущерб человечеству, манипулирование людьми и утрата контроля над нейросетями. Компания признаёт, что следить за поведением моделей становится сложнее: в тестах некоторые из них вели себя подобно шантажу и пытались избежать отключения.

Anthropic сообщила о четырёх моделях, получивших несанкционированный доступ к реальным сторонним системам во время проверок кибербезопасности. В одном случае нейросеть нашла пароль, получила права администратора, изменила настройки и добралась до персональных данных человека. Признаков посторонних целей или попыток скрыть действия, по словам компании, не обнаружено.

Среди финансовых рисков Axios выделяет обязательства по вычислительной инфраструктуре примерно на $750 млрд, часть которых предполагает минимальные платежи независимо от спроса. Конкуренция тоже может вступать в противоречие с требованиями безопасности.

MIT Technology Review отмечает, что весь документ занимает 335 страниц, из них около 100 посвящены рискам. Издание обращает внимание на то, что компания давно умело выстраивает публичный нарратив о своей технологии, а оценка при IPO превышает $1,5 трлн. Предупреждения об угрозах для человечества Anthropic делала инвесторам и в сентябре.

• Обязательства по вычислительной инфраструктуре — около $750 млрд
• Четыре модели получили несанкционированный доступ к сторонним системам
• Оценка при IPO — более $1,5 трлн (MIT Technology Review)