Безопасность 13 октября 2026, 12:38 МСК

Anthropic предупредила о риске автономных самовоспроизводящихся ИИ-червей

По оценке Anthropic, при сохранении темпов развития компактные ИИ-модели смогут самовоспроизводиться к концу года, а «ИИ-черви» — вскоре после этого.

В экспериментах Anthropic изучала, как модели находят уязвимые устройства, копируют себя в их память и распространяются без участия человека. Модели менее 30 млрд параметров выполняют многие из нужных шагов, но всю цепочку проходят с трудом. В упрощённых тестах с ослабленной защитой GLM-5.2 и более сильные модели прошли её целиком.

Компания отмечает, что у таких моделей нет «центрального рубильника». Эксперименты были сосредоточены на слабо защищённых устройствах: ТВ-приставках, умных телевизорах на Android и бытовой технике. Anthropic рекомендует лучше защищать их и признаёт, что не знает, в какой форме это проявится: как медленная распределённая среда, как быстрая атака на дата-центры или как обман людей ради доступа к вычислениям.

• Модели менее 30 млрд параметров выполняют часть шагов
• GLM-5.2 и сильнее прошли цепочку в упрощённых тестах