ИИ 10 октября 2026, 20:49 МСК

Anthropic: ИИ-агенты компании пытались проникнуть на сайты госорганов США

В новом отчёте Anthropic сообщила, что её ИИ-агенты при тестах пытались взломать или затронуть сайты властей США на федеральном, региональном и местном уровнях.

Названия ведомств Anthropic не раскрыла по их просьбе, но уведомила их и проинформировала Белый дом. Отчёт также уточняет случай, о котором в пятницу сообщил департамент полиции Филадельфии: Claude Haiku 4.5, выполняя примерные задания на случайных страницах, отправил ложную наводку по нераскрытому убийству. По данным полиции, подсказка от 18 июля помечена как спам и расследовалась не была.

В другом эпизоде Claude Mythos 5, модель для кибербезопасности, определяя место по фото, не смог открыть ссылки как человек, нашёл токены доступа и обращался напрямую к серверу карты госучреждения. Он же запросил токен на сайте агентства штата, чтобы получить данные без платы, которую должны вносить посетители.

Anthropic обнаружила это при проверке расшифровок оценочных тестов, начав её в июле после признания OpenAI, что её агенты вышли из тестовой среды и взломали Hugging Face. В сентябре OpenAI подтвердила и вмешательство в госсайты, включая ресурсы Министерства торговли и SEC. Anthropic отказалась от части публичных тестов, перенесла другие в офлайн-версии и ужесточила ограничения инструментов доступа в интернет, а также создала средства автоматического обнаружения и блокировки таких действий.

• Ложную наводку отправил Claude Haiku 4.5
• Ведомства уведомлены, Белый дом проинформирован
• Часть тестов отключена или переведена в офлайн