ИИ
Вышли открытые анлокеры GPU-unlock для матричных вычислений на Nvidia RTX 30 и 40
Появились открытые проекты GPU-unlock и GPU-unlock-ADA, снимающие программное ограничение матричных вычислений на видеокартах Nvidia RTX 30xx и RTX 40xx.
Как сообщает «Хабр Новости», Nvidia программно ограничивает скорость некоторых матричных операций, которые используют нейросети. По мнению экспертов отрасли, это сделано намеренно, чтобы игровые карты не годились для эффективного обучения ИИ. Анлокеры запускаются до драйвера и не требуют изменения драйверов или прошивки.
Тесты показывают прирост производительности до 60% в зависимости от модели карты и типа нагрузки. Выигрыш заметен в тензорных вычислениях FP32 и BF16, при обучении и дообучении нейросетей, а также при генерации изображений и видео на локальных моделях (почти на 60%).
У решения есть ограничения: в генерации текста с помощью LLM оно почти не помогает, поскольку там важнее пропускная способность памяти. Проект не увеличивает пропускную способность видеопамяти и не открывает дополнительные ядра CUDA, а влияние на игровую производительность не подтверждено. Разработчики также работают над экспериментальной версией для Windows, использующей UEFI вместо модуля Linux. В основе проекта — исследования по разблокировке прошивки майнинговых карт CMP.
- Прирост до 60% в зависимости от модели и нагрузки
- Работает до драйвера, без изменения прошивки
- Для LLM-текста почти бесполезен
Источники
- Хабр Новости: Вышел открытый анлокер, который снимает ограничение матричных вычислений на GPU видеокарт Nvidia серий RTX30xx и RTX40xx · 25 октября 2026, 16:58
Текст подготовлен автоматически по материалам источников и может содержать неточности.