Mac Studio 集群运算AI 推理效能快三倍

全新Mac Studio 支援多部主机组成集群,通过Thunderbolt 5 与RDMA(远端直接记忆体存取)互相连接,形成共用记忆体池,用作执行更大规模的AI 模型。

集群与共用记忆体

多部全新Mac Studio 可通过Thunderbolt 5 与RDMA 串连,建立共用记忆体池。此安排让系统在执行大型AI 模型时,不再受单一主机的记忆体容量限制,而是可以集中多部主机的资源共同处理。

推理效能快三倍

Apple 表示,将四部Mac Studio 组成集群后,AI 推理速度比在单一系统上执行同一任务快3 倍。共用记忆体池亦有助载入目前最大型、要求最高的前沿级开放权重模型。

与Mac 相关的图片
(0)
麦克哥麦克哥

相关推荐

发表回复

您的电子邮箱地址不会被公开。 必填项已用 * 标注