位置:首页 > 新闻资讯 > LM Studio与苹果合作成功在四台Mac Studio集群上运行万亿参数Kimi大模型

在苹果WWDC 2026期间,LM Studio与苹果合作,成功在由四台Mac Studio组成的集群上运行了月之暗面开发的万亿参数大模型Kimi K2.6。据悉,该模型总参数规模达1万亿,采用MoE架构,激活参数为320亿,支持长上下文、多模态输入及智能体任务处理。

演示中,四台Mac Studio通过苹果的内存共享和互联技术形成集群,统一内存容量约1.5TB,满足了该前沿模型的推理需求。演示还展示了通过LM Link功能,从MacBook Neo和iPhone安全远程访问并操作该集群上运行的模型,数据与通信均在本地处理。

据悉,在类似的四台Mac Studio集群配置下,Kimi K2.6模型在特定模式下可达到约28 tokens/s的生成速度,且功耗低于传统GPU集群。这一合作展示了在消费级硬件上部署大型开源模型的潜力,并凸显了苹果生态在AI本地化部署方面的技术进展。LM Link远程访问功能已于2026年6月初更新至相关应用中,支持端到端加密连接。

来源:https://news.pconline.com.cn/2176/21768463.html
免责声明:文中图文均来自网络,如有侵权请联系删除,心愿游戏发布此文仅为传递信息,不代表心愿游戏认同其观点或证实其描述。

相关文章

更多

精选合集

更多

大家都在玩

热门话题

大家都在看

更多