Безопасность 14 октября 2026, 15:55 МСК

Anthropic предупредила о риске саморазмножающегося ИИ на бытовых устройствах

Исследователи Anthropic считают, что небольшие ИИ-модели в течение месяцев могут научиться распространяться между IoT-устройствами, хотя их эксперименты пока далеки от реальной угрозы.

В блоге компании говорится о «признаках жизни ИИ-червей». Исследователи разделили Gemma 4 на 26 млрд параметров между 15 Android-приставками, каждая из которых не смогла бы запустить её в одиночку; работало это очень медленно. По данным Ars Technica, использовались квантование и разбиение модели на части, а Qwen3.5-9B смогла настроить запуск других моделей на восьми из девяти типов оборудования.

Затем в симулированной сети устройств ИИ-«червя» просили находить машины, копировать на них Llama 3.1-8B и запускать её. Всю сеть охватила только самая сильная из протестированных моделей — GLM-5.2 от Z.ai, остальные справлялись с отдельными шагами. Авторы прогнозируют, что малые модели достигнут такого уровня к концу года, и призывают усиливать защиту устройств.

Полноценный «взбесившийся репликатор» не продемонстрирован. Критики видят в предупреждении PR и алармизм, но эксперты, опрошенные The Verge, считают, что серьёзно отнестись к рискам стоит. Отмечается, что Anthropic тестировала не свои модели и ранее говорила о большем риске открытых моделей.

• Gemma 4 запустили на 15 Android-приставках
• Лишь GLM-5.2 распространилась по всей тестовой сети
• Прогноз: малые модели сравняются с ней к концу года