ИИ 14 октября 2026, 20:53 МСК

На взломанной PlayStation 5 запустили модель Qwen на 27 млрд параметров со скоростью 20 токенов/с

Разработчик abhi245y выпустил приложение PS5LM Plus, которое запускает языковые модели на GPU взломанной PlayStation 5.

В тестах Qwen с 27 млрд параметров выдаёт около 20 токенов в секунду. Вычисления выполняются локально, а запросы можно отправлять через веб-интерфейс со смартфона или компьютера в той же сети. Проект основан на PS5LM Мерта Кобанова, где модели работали на CPU: Qwen тогда генерировала около одного токена в минуту.

Новое приложение получило до 12 ГБ видеопамяти и доступ к GPU через Vulkan-бэкенд ggml и порт драйвера RADV из PS5_Vulkan. Использованы квантованные версии: UD-IQ2_XXS (6,8 ГБ) даёт 20,7 токена/с при контексте 64 тыс., UD-Q2_K_XL (9,2 ГБ) — 20,3 токена/с при 32 тыс. Gemma 4 E4B и Llama 3.2 3B показали 61 и 124 токена/с.

Приложение работает с моделями GGUF, поддерживает OpenAI-совместимый API и показывает на экране скорость, нагрузку, энергопотребление и температуру. Нужна взломанная консоль с etaHEN, kstuff и ShadowMountPlus. Код открыт по лицензии GPL-3.0.

• Qwen 27B: около 20 токенов/с против ~1 токена в минуту на CPU
• До 12 ГБ видеопамяти, Vulkan-бэкенд
• Лицензия GPL-3.0