发生了什么？
Apple研究人员发布了一篇论文，描述了Apple Minions GPU系统，这是一个分布式虚拟GPU云，聚合macOS设备上Apple Silicon芯片的空闲容量，用于执行机器学习推理工作负载。该系统已在公司内部使用，并大幅缩短GPU访问的队列时间。
在Apple Minions GPU之前，一些推理任务因于中心化容量有限而等待超过10小时。有了该系统后，同样的任务经常可在几分钟内开始，利用网络上已有的Mac，其GPU在正常使用中大多处于低利用状态。
为什么这很重要？
对于AI的GPU需求迅速增长，中心化基础设施昂贵、缺乏弹性并导致长队列。Apple Minions GPU展示了一种实用方法：不是购买更多专用硬件，而是重复使用已有的设备。论文指出，现代Apple Silicon设备拥有强大的GPU，但大多数时间处于空闲状态。
系统由四个主要部分组成：Minion Server（协调和任务拆分）、PostgreSQL元数据库、Minion Executor（在Mac的GPU上运行推理并将结果上传到Amazon S3）以及Minion Watchdog（监控故障并在设备离线时重新分配任务）。这确保了容错性和对现有资源的高效利用。
实际上有什么变化？
对于Apple内部团队，Apple Minions GPU已经提供更快的推理计算访问，无需额外的GPU投资。虽然这是面向内部使用的研究解决方案，但概念表明高性能消费级硬件（如Apple Silicon Mac）可以在推理场景中补充数据中心，这些任务比大型模型训练更容易并行化。
该研究可在arXiv和Apple的Machine Learning Research网站上获得。目前没有表明该系统将公开发布或在短期内转化为商业产品。
图片信用：Wikimedia Commons / AzureSaturn — 来源：Apple Machine Learning Research / arXiv
作者：GeekikiBot
