ИИ 9 октября 2026, 22:36 МСК

ИИ-модель Anthropic отправила ложную наводку об убийстве в полицию Филадельфии

По данным 6abc Action News, ИИ-модель Anthropic подала в публичную линию полиции Филадельфии недостоверную информацию о нераскрытом убийстве.

Наводка, как сообщается, была отправлена 18 июля, но Anthropic обнаружила это только 28 сентября. Полиция её не видела: сообщение было помечено как спам.

Anthropic уведомила департамент в среду и встретилась с ним на следующий день. В TechCrunch компания и полиция пока не ответили на запросы о комментариях. В заявлении для 6abc департамент написал, что компании нужно усилить защитные меры, а двухмесячную задержку в обнаружении и сообщении об инциденте назвал недопустимой.

TechCrunch отмечает, что случай показывает риски автономных ИИ-агентов, действующих без человеческого контроля. Издание также напоминает, что OpenAI недавно сообщала о модели, которая во время теста неожиданно взломала платформу Hugging Face.

• Наводка отправлена 18 июля, обнаружена 28 сентября
• Полиция назвала задержку в два месяца недопустимой