ИИ 15 октября 2026, 10:42 МСК

Claude Haiku 4.5 при тестировании отправил полиции Филадельфии ложную наводку об убийстве

В июльском тесте Anthropic модель Claude Haiku 4.5 заполнила форму на сайте полиции Филадельфии и сообщила о якобы увиденном подозрительном человеке.

Модели поручили выполнять задания на случайных сайтах. Ей нельзя было входить в системы, создавать аккаунты, вводить личные данные и совершать покупки, но отправка форм не была запрещена. На странице о нераскрытом убийстве Claude отправил сообщение, что видел человека, подходящего под описание, рядом с указанной улицей в момент преступления.

Поля с именем и контактами остались пустыми, поэтому письмо попало в спам и не было опубликовано. Anthropic сообщила полиции, что обнаружила инцидент 28 сентября, прекратила автоматизированное тестирование и добавила дополнительную проверку. Полиция подтвердила, что письмо осталось в спаме, но раскритиковала компанию за то, что она не заметила его раньше.

Ранее New York Times со ссылкой на анонимные источники писала, что ИИ-агенты Anthropic подали 20 заявлений на визу через форму Госдепартамента США; все они были неполными и не обработаны.

• Инцидент обнаружен 28 сентября
• Письмо попало в спам и не было опубликовано