ТехноСводка

Софт

В тесте ноутбука RTX Spark скорость ИИ-модели под Linux оказалась ниже, чем в Windows

В опубликованном на Hacker News обзоре MSI Prestige RTX Spark модель GPT-OSS-120B выдала 13,9 токена в секунду под Linux против 65,4 под Windows.

Автор обзора смог запустить на ноутбуке Linux с CUDA-ускорением через открытый драйвер Nvidia, однако при подключении питания частота GPU ограничивалась примерно 780 МГц против около 2,2 ГГц в Windows. Он связывает это с отсутствием в Linux аналога компонента Nvidia Platform Controllers and Framework и зашифрованной таблицей управления питанием, которую, по его утверждению, может расшифровать только драйвер Windows.

В том же тесте GPT-OSS-120B среда WSL показала 65,1 токена в секунду — почти столько же, сколько Windows. Поэтому автор называет WSL практичным вариантом для запуска Linux-инструментов ИИ без выявленной потери производительности.

Установка полноценной Linux-системы также потребовала настройки драйверов и изменения резерва общей памяти для GPU через Windows; выводы материала основаны на тестировании конкретного ноутбука.

  • GPT-OSS-120B: Linux — 13,9 токена/с, Windows — 65,4, WSL — 65,1
  • При питании от сети частота GPU под Linux падала примерно до 780 МГц

Источники

Текст подготовлен автоматически по материалам источников и может содержать неточности.