排队超过10小时的推理任务,现在几分钟就能开始跑。苹果研究团队给出的解法不是买更多GPU,而是把办公室里那些长期闲置的Mac串起来。
这项研究名为Minions,目标是聚合闲置的Mac GPU,形成一个可动态调度的"虚拟GPU云",用来跑大规模机器学习推理。传统AI推理依赖集中式GPU集群,成本高、扩容慢、排队时间长;而Mac在日常办公、浏览和创作场景里,GPU常常长期空闲。苹果想做的,是把这部分"看不见的算力"重新组织起来。
![]()
四块拼图撑起一套调度系统
根据论文概述,Minions由四个关键部分组成:
- Minion Server:接收任务、拆分子任务并协调调度;
- PostgreSQL元数据存储:记录任务与设备状态;
- Minion Executor:运行在各台macOS设备上,通过Apple Silicon GPU本地执行推理;
- Minion Watchdog:监控设备掉线、休眠或断电等情况,把未完成任务重新分配给其他可用设备。
技术实现上,Minions采用"拉取式"任务模型——设备主动向服务器领取可执行的子任务,并通过原子化机制避免多台设备重复处理同一任务。推理结果可写入对象存储,系统还提供基于Grafana的实时监控面板,方便团队了解在线、忙碌和空闲设备的数量。
省下的是硬件,卡住的是治理
苹果披露的测试结果显示,此前因集中式GPU资源不足而需排队超过10小时的部分推理任务,在Minions下可在数分钟内开始执行。团队无需新增GPU硬件,也降低了基础设施成本。
不过,这项技术目前更像是面向企业内部的研究与工程方案,而非面向普通消费者的正式产品。研究团队也指出,跨部门使用他人设备时,数据保密和治理是重要顾虑。
换句话说,闲置算力能不能被调用是一回事,愿不愿意把自己的机器交出去是另一回事。Minions解决的是调度问题,剩下的问题在调度之外。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.