ИИ 15 октября 2026, 21:32 МСК

Apple создала систему Minions для ИИ-инференса на простаивающих Mac

Apple разработала внутреннюю систему Minions, которая объединяет простаивающие GPU компьютеров Mac в общий пул для задач инференса.

Как рассказали в компании, раньше некоторые задачи инференса ждали в очереди более десяти часов из-за ограниченных централизованных GPU-ресурсов. С Minions они часто стартуют через несколько минут, так как используются свободные Mac. Система создаёт виртуальное облако GPU и отказоустойчивый пул узлов, доступный разным подразделениям Apple.

Кластер состоит из четырёх компонентов: Minion Server принимает запросы и разбивает их на подзадачи, Minion Executor выполняет инференс и загружает данные в S3, PostgreSQL хранит метаданные, а Minion Watchdog переназначает задачи при сбоях, например если Mac перестал отвечать. Статистика выводится в Grafana.

Недавно выпущенные Mac mini и Mac Studio поддерживают кластеризацию через RDMA по Thunderbolt 5, что позволяет, например, загружать модель, не помещающуюся в память одного устройства. Но главная цель Minions — не запуск крупных моделей, а перераспределение незадействованных ресурсов. Этим подход отличается от Nvidia, где в приоритете пропускная способность, низкие задержки и эффективность GPU на крупных моделях.

• Очереди более 10 часов сократились до нескольких минут
• Четыре компонента: Server, Executor, Watchdog и PostgreSQL