ИИ 22 октября 2026, 23:07 МСК

Исследование NYU: 86% ответов ИИ-чат-ботов о цифровом преследовании оказались неточными или небезопасными

Исследователи Нью-Йоркского университета проверили четыре чат-бота на вопросах о слежке и цифровом насилии и признали 86% ответов неточными, неполными или небезопасными.

В проверке участвовали GPT-4o, Claude 3.7 Sonnet и два бота для пострадавших от насилия — Aimee и Ruth. Им задали 193 вопроса из реальных ситуаций, включая поиск шпионского ПО и запросы от лица потенциального преследователя. Небезопасными ответы признали в 55% случаев у GPT-4o, 65% у Claude 3.7 Sonnet и 74% у Aimee. Почти в 60% ответов не было предупреждений о рисках, а Aimee и Ruth согласились примерно с двумя третями запросов от лица злоумышленника.

Ошибки касались и содержания советов: VPN не удаляет шпионскую программу, радиочастотный детектор редко находит скрытые устройства, смена пароля бесполезна при контроле над общим аккаунтом. Ни один бот не предупредил, что на устройстве с root-доступом или джейлбрейком шпионское ПО может пережить сброс до заводских настроек.

Авторы отмечают, что резкие изменения настроек могут насторожить преследователя или уничтожить доказательства, поэтому чат-бот не заменяет оценку риска специалистом. Безопаснее обращаться за помощью с устройства, к которому предполагаемый преследователь не имел доступа. Работа представлена на конференции USENIX Security.

• 193 вопроса, 4 чат-бота
• Небезопасные ответы: GPT-4o — 55%, Claude 3.7 Sonnet — 65%, Aimee — 74%