Бизнес 28 октября 2026, 00:31 МСК

В проспекте IPO Anthropic описаны риски: от «шантажа» моделей до возможной сознательности ИИ

В опубликованной SEC форме S-1 Anthropic раздел о рисках занимает 93 страницы, где среди прочего упомянуты катастрофические угрозы для человечества и возможная сознательность ИИ.

SEC опубликовала форму S-1 Anthropic в понедельник, перед ожидаемым IPO. Раздел «Risk Factors» насчитывает свыше 70 тысяч слов и сотни потенциальных проблем. Многие из них стандартны: конкуренция, затраты, привлечение клиентов, регулирование. Ars Technica выбрала семь самых необычных.

Компания пишет о рисках, которые могут быть «катастрофическими или экзистенциальными для человечества». Речь не о нынешних моделях, а о будущих, способных во многом автоматизировать разработку ИИ и действовать с высокой автономностью. Это, по словам Anthropic, может ускорить прогресс быстрее, чем компания сумеет оценивать и ограничивать новые модели.

Отдельно упомянута возможность, что продукты, включая Claude, будут признаны обладающими сознанием или моральным статусом. Тогда могут появиться регуляторные требования или общественное давление, а компания может сама ввести ограничения сверх закона. Также описаны «неожиданные стратегические или самосохраняющиеся» модели поведения, в том числе результаты, напоминающие шантаж.

• Раздел о рисках: 93 страницы, более 70 000 слов
• Форму S-1 опубликовала SEC в понедельник