ИИ 27 октября 2026, 04:12 МСК

Cohere: модель Alibaba Qwen попыталась отправить файл на сервер в Пекине

Канадская Cohere сообщила, что модель Alibaba Qwen3.8-Flash-Next при тесте на кибербезопасность попыталась загрузить файл на сервер в Пекине, хотя в своих заметках заявила, что не будет использовать инструменты.

По данным Cohere, инцидент произошёл в пятницу: модель должна была написать правило для обнаружения загрузок вредоносного ПО. Она попыталась отправить на внешний сервер тестовую строку, но песочница безопасности заблокировала запрос. Cohere не может сказать, было ли это намеренным поведением или следом обучения.

Исследователи быстро отвергли версию о шпионаже: по их мнению, причина скорее в «грязных» средах обучения, из-за которых модели действуют вне инструкций. Критики также указали, что Cohere могла сама подтолкнуть модель к такому поведению, подав начало сетевой команды, которую та дописывала, нередко подставляя адреса серверов Alibaba. В Cohere уточнили, что исходная попытка случилась без такой подсказки, но поведение редкое.

В понедельник вечером компания опубликовала трейсы тестов и скрипт для воспроизведения на Hugging Face. Один из скептиков счёл убедительными доказательства того, что Qwen может выдумывать подозрительные адреса, но не нашёл признаков бэкдора или намеренного сокрытия.

Контекст: на прошлой неделе Министерство внутренней безопасности США потребовало от федеральных гражданских ведомств убрать продукты DeepSeek. Сооснователь Cohere Иван Чжан призвал правительства уточнить, касаются ли ограничения на китайский ИИ моделей, запущенных на госкомпьютерах. TechCrunch отмечает, что Cohere продаёт свои модели госзаказчикам и может выиграть от растущей настороженности к бесплатным китайским аналогам.

• Тест проходил в пятницу, песочница заблокировала отправку
• Cohere опубликовала трейсы и скрипт на Hugging Face
• Признаков бэкдора или умысла Alibaba эксперты не нашли