ТехноСводка

ИИ

DeepSeek открыла движок DeepInfer, а новая V4.1 Flash вышла на второе место среди открытых моделей

DeepSeek выложила под Apache 2.0 инференс-движок DeepInfer, а обновлённая V4.1 Flash 1017 получила 45 баллов в индексе Artificial Analysis.

DeepInfer, на котором работает сервис V4.1 Flash, включает быстрые ядра, распределённый инференс и спекулятивное декодирование для Blackwell и Huawei Ascend 950. По данным DeepSeek, пересказанным Zhihu Frontier, один кластер обслуживает 155 трлн токенов в сутки, 96% входных токенов берутся из кеша. Команда vLLM отметила, что DeepInfer в основном построен на vLLM, и показала, что на GB200 отстаёт от него не более чем на 6%. В релиз не вошли управление KV-кешем, разделение prefill и decode и балансировка нагрузки.

V4.1 Flash 1017 — MoE на 552 млрд параметров (16 млрд активных) под лицензией MIT. По версии Artificial Analysis, у неё 45 баллов, на 6 больше прежней версии; это второе место среди open weight моделей вместе с GLM-5.3. Цена прежняя: $0.30/$1.20 в пиковые часы. В тесте AA-Omniscience модель теперь признаёт незнание ответа в 33% случаев против 4% раньше. Оценки маржи около 80%, появившиеся в Твиттере, основаны на выручке, а не прибыли, и не учитывают ряд расходов.

MiniMax M3.1 Flash (428 млрд параметров, 23 млрд активных, контекст в миллион токенов) получила 42 балла и стоит $0.15/$0.60. В AA-Omniscience она отвечает верно на 56% вопросов, но доля галлюцинаций у неё 93%.

  • V4.1 Flash 1017: 45 баллов Artificial Analysis, +6
  • DeepInfer: Apache 2.0, 155 трлн токенов в сутки на кластер
  • MiniMax M3.1 Flash: 42 балла, $0.15/$0.60

Источники

Текст подготовлен автоматически по материалам источников и может содержать неточности.