ТехноСводка

Гаджеты

Nvidia делает ставку на производительность одного ядра в процессоре Vera для ИИ-агентов

Nvidia заявляет, что для агентного ИИ серверным процессорам снова важна скорость каждого ядра, и позиционирует под эту задачу монолитный процессор Vera.

В интервью Wccftech разработчики объяснили, что облачные CPU оптимизировали под пропускную способность и плотность ядер. ИИ-агенты же постоянно переключаются между вычислениями на GPU и последовательными операциями на CPU, и медленный шаг может заставлять простаивать дорогой ускоритель.

Vera использует один монолитный вычислительный кристалл вместо чиплетов, память LPDDR5X и 3,4 ТБ/с bisection bandwidth — по словам Nvidia, примерно втрое выше, чем у ведущих x86-процессоров. Компания заявляет о 1,5-кратном приросте к Grace и до двукратном преимуществе над x86 в агентных задачах (в среднем 1,6 раза). Собственная пространственная многопоточность, по тестам, даёт около 20% прироста.

Vera также предлагается как самостоятельное решение для стоек с CPU, выполняющих вызовы инструментов и задачи обучения с подкреплением. Прогноз о 80 CPU на один GPU Nvidia не подтверждает. Монолитность, подчёркивают разработчики, не отказ от чиплетов: выбор зависит от задач.

  • До 2x к x86 в агентных задачах, в среднем 1,6x
  • +50% к Nvidia Grace
  • Данные — заявления самой Nvidia

Источники

Текст подготовлен автоматически по материалам источников и может содержать неточности.