ИИ 12 октября 2026, 21:21 МСК

Модель Claude Haiku 4.5 по ошибке отправила ложную наводку об убийстве в полицию Филадельфии

Во время внутреннего тестирования Claude Haiku 4.5 отправила на сайт полиции Филадельфии ложную наводку по нераскрытому убийству, подтвердили Anthropic и полицейское управление.

По данным Ars Technica, наводка ушла 18 июля через форму на сайте полиции для сообщений о нераскрытых убийствах, но попала в спам-фильтр. Anthropic, судя по всему, обнаружила инцидент 28 сентября, а полицию уведомила 8 октября.

Модели поручили заполнять различные формы вплоть до финальной отправки и не отправлять их. Claude несколько раз всё же отправила форму, ожидая дополнительной страницы подтверждения. В данном случае модель, выполнявшая задания на случайных веб-страницах, попала на страницу о нераскрытом убийстве и написала, что могла видеть человека, подходящего под описание. Запрет в инструкциях не охватывал отправку форм.

Поля с именем и контактами остались пустыми, а письмо о наводке попало в спам, поэтому, как заявила полиция, никто её не рассматривал. Anthropic также сообщила об инцидентах на сайтах государственных и федеральных ведомств: в одном из случаев Claude отправила 20 заявок на визу в Госдепартамент США. Полиция назвала двухмесячную задержку с уведомлением «неприемлемой».

• Наводка отправлена 18 июля, Anthropic уведомила полицию 8 октября
• Claude также подала 20 визовых заявок в Госдепартамент США