推理效率超NV H100!华为展示CloudMatrix 384“超级AI服务器”:384颗昇腾NPU+192颗鲲鹏CPU全对等互联
时间:2025-07-01 | 作者: | 阅读:07月1日消息,前不久,华为创始人任正非接受《人民日报》采访时为中国芯片指路——芯片问题其实没必要担心,用叠加和集群等方法,计算结果上与最先进水平是相当的。
他坦言,我们单芯片还是落后美国一代,我们用数学补物理、非摩尔补摩尔,用群计算补单芯片,在结果上也能达到实用状况。
任正非认为,中国在中低端芯片上是可以有机会的,中国数十、上百家芯片公司都很努力。特别是化合物半导体机会更大。硅基芯片,我们用数学补物理、非摩尔补摩尔,利用集群计算的原理,可以达到满足我们现在的需求。
那华为是怎么做的呢?
日前,华为云官微通过一段视频展示了CloudMatrix 384超节点算力集群的威力——
384颗昇腾NPU(昇腾910C)+192颗鲲鹏CPU全对等互联,形成一台“超级AI服务器”;
业界最大单卡推理吞吐量——2300Tokens/s;
业界最大集群算力——16万卡,万卡线性度高达95%;
云上确定性运维-40天长稳训练、10分钟快速恢复。
华为云表示,新一代昇腾AI云服务,是最适合大模型应用的算力服务。
此前,华为还发布了一一篇60页的重磅论文,提出了他们的下一代AI数据中心架构设计构想——Huawei CloudMatrix,以及该构想的第一代产品化的实现CloudMatrix384。
简单来说,华为CloudMatrix并非简单的“堆卡”,而是通过高带宽全对等互联(Peer-to-Peer)来设计,这也是CloudMatrix 384硬件架构的一大创新。
传统的AI集群中,CPU相当于公司领导的角色,NPU等其它硬件更像是下属,数据传输的过程中就需要CPU审批和签字,效率就会大打折扣。
但在CloudMatrix384中,CPU和NPU等硬件更像是一个扁平化管理的团队,它们之间的地位比较平等,直接通过UB网络通信直接对话,效率自然就上来了。
另外,论文还介绍了基于CloudMatrix384进行DeepSeek推理的最佳实践方案——CloudMatrix-Infer。
从官方给出的案例来看,CloudMatrix384预填充吞吐量达6688 token/s/NPU,解码阶段1943 token/s/NPU;计算效率方面,预填充达4.45 token/s/TFLOPS,解码阶段1.29 token/s/TFLOPS,均超过NVIDIA H100/H800上实现的性能。
福利游戏
相关文章
更多-
- 你吐槽的意义是啥!懂车帝测试华为等国产智驾全军覆没警示录:开车别迷信辅助驾驶
- 时间:2025-07-26
-
- 华为创始人任正非与上海交大校长会面 联手签订重磅协议 释放重要信号
- 时间:2025-07-25
-
- 华为Pura 80维修备件价格出炉:换电池199元、换屏849元
- 时间:2025-07-25
-
- 大V陈震谈懂车帝辅助驾驶测试:华为依然是目前最好 特斯拉就算了吧
- 时间:2025-07-25
-
- 华为MatePad Pro 12.2英寸发布:最强鸿蒙5平板 3999元起
- 时间:2025-07-24
-
- 勇夺中国第一!国产旗舰机还要看华为:Pura 70系列总销量达1316万台
- 时间:2025-07-24
-
- 微信支付正式接入华为鸿蒙5收银台:买会员、充道具、订阅都能微信付
- 时间:2025-07-24
-
- 中国手机市场排名:华为猛增17.6%位列第一 小米第四
- 时间:2025-07-24
大家都在玩
大家都在看
更多-
- 黄仁勋:英伟达离职率只有0.9% 随身携带秘密期权池奖励员工
- 时间:2025-07-25
-
- 恶意侮辱攻击企业家、号召抵制新能源品牌!“雷米侃电车”等多位汽车博主被禁言
- 时间:2025-07-25
-
- ARKW转投加拿大比特币ETF
- 时间:2025-07-25
-
- 首款可折叠iPhone屏幕尺寸曝光:7.8英寸内屏+5.5英寸外屏
- 时间:2025-07-25
-
- 中国以太坊持有者最多的人是谁
- 时间:2025-07-25
-
- 玩明末:渊虚之羽时RTX 5090接口烧毁!资深编辑记录下完整过程
- 时间:2025-07-25
-
- 七彩虹限定熊猫游戏本首发8099元:熊猫主题设计 搭载星知岛AI
- 时间:2025-07-25
-
- 远光84变变龙怎么玩
- 时间:2025-07-25