ИИ
DeepSeek открыла движок DeepInfer, а новая V4.1 Flash вышла на второе место среди открытых моделей
DeepSeek выложила под Apache 2.0 инференс-движок DeepInfer, а обновлённая V4.1 Flash 1017 получила 45 баллов в индексе Artificial Analysis.
DeepInfer, на котором работает сервис V4.1 Flash, включает быстрые ядра, распределённый инференс и спекулятивное декодирование для Blackwell и Huawei Ascend 950. По данным DeepSeek, пересказанным Zhihu Frontier, один кластер обслуживает 155 трлн токенов в сутки, 96% входных токенов берутся из кеша. Команда vLLM отметила, что DeepInfer в основном построен на vLLM, и показала, что на GB200 отстаёт от него не более чем на 6%. В релиз не вошли управление KV-кешем, разделение prefill и decode и балансировка нагрузки.
V4.1 Flash 1017 — MoE на 552 млрд параметров (16 млрд активных) под лицензией MIT. По версии Artificial Analysis, у неё 45 баллов, на 6 больше прежней версии; это второе место среди open weight моделей вместе с GLM-5.3. Цена прежняя: $0.30/$1.20 в пиковые часы. В тесте AA-Omniscience модель теперь признаёт незнание ответа в 33% случаев против 4% раньше. Оценки маржи около 80%, появившиеся в Твиттере, основаны на выручке, а не прибыли, и не учитывают ряд расходов.
MiniMax M3.1 Flash (428 млрд параметров, 23 млрд активных, контекст в миллион токенов) получила 42 балла и стоит $0.15/$0.60. В AA-Omniscience она отвечает верно на 56% вопросов, но доля галлюцинаций у неё 93%.
- V4.1 Flash 1017: 45 баллов Artificial Analysis, +6
- DeepInfer: Apache 2.0, 155 трлн токенов в сутки на кластер
- MiniMax M3.1 Flash: 42 балла, $0.15/$0.60
Источники
- Хабр Новости: Галлюцинации недели: Взломать можно было всех и сразу, от WordPress до Яндекс Станции · 27 октября 2026, 10:00
Текст подготовлен автоматически по материалам источников и может содержать неточности.