Наука 13 октября 2026, 07:08 МСК

В МФТИ разработали алгоритм HARP для более точного сжатия больших языковых моделей

Учёные МФТИ создали алгоритм HARP, который снижает потери точности при квантовании нейросетей и уменьшает потребность в ресурсах дата-центров.

Квантование представляет веса нейросети меньшим числом битов и сокращает объём данных, но чрезмерное сжатие ухудшает точность ответов. HARP помогает уменьшить такие потери, при этом не заменяет существующие методы квантования, а дополняет их. Алгоритм протестировали на моделях разного масштаба.

Разработка и обработанные с её помощью модели доступны для свободного использования. Эксперт НТИ Евгений Вишневский отметил, что HARP можно встроить в уже применяемые инструменты сжатия без перестройки процессов разработки. По его словам, это важно для российского рынка на фоне растущего спроса на вычислительные мощности.

Реальное снижение нагрузки будет зависеть от характеристик моделей и условий их эксплуатации.

• Дополняет, а не заменяет методы квантования
• Код и модели в свободном доступе