ТехноСводка

ИИ

На взломанной PlayStation 5 запустили языковую модель на 27 млрд параметров

Разработчик abhi245y выпустил приложение PS5LM Plus, которое запускает большие языковые модели на GPU взломанной PlayStation 5; модель Qwen3.8-27B выдаёт около 21 токена в секунду.

Проект основан на PS5LM инженера Мерта Кобанова. Первая версия работала в основном на центральном процессоре, а новая использует графический. Для этого автор портировал драйвер AMD RADV из Mesa и адаптировал llama.cpp для работы через Vulkan. Доступная моделям память выросла примерно с 6 до 11,4 ГБ.

При пропускной способности памяти 448 ГБ/с Qwen3.8-27B показала 20,9 токена в секунду, загрузка GPU составляла 100%, CPU — 2%. Gemma 4 E4B выдаёт около 61 токена в секунду, Llama 3.2 3B — до 124.

В приложении есть веб-интерфейс и API в локальной сети на порту 8081. Поддержка интерфейсов OpenAI и Anthropic позволяет подключать OpenCode, Codex и Claude Code. Ограничения: 16 ГБ оперативной памяти и необходимость взлома консоли, который может привести к блокировке устройства или аккаунта PlayStation Network.

  • Qwen3.8-27B: 20,9 токена/с
  • Память для моделей: с 6 до 11,4 ГБ
  • Gemma 4 E4B — ~61 токен/с, Llama 3.2 3B — до 124

Источники

Текст подготовлен автоматически по материалам источников и может содержать неточности.