华为推出昇腾超节点技术,成功实现业界最大规模 384 卡高速总线互联
发布时间:
2025-05-26 09:30:47
【导语】2025年5月23日,华为在鲲鹏昇腾开发者大会上震撼发布昇腾超节点技术,成功实现了业界最大规模的384卡高速总线互联。该技术打破了传统服务器通信带宽的限制,通过创新的对等计算架构和高速总线互联,显著提升了AI模型训练的性能,为未来更大规模的模型演进提供了强有力的支撑。性能测试数据显示,昇腾超节点集群在多模态、MoE等模型上的性能提升显著,引领了AI计算架构的新一轮创新升级。

2025 年 5 月 23 日,在鲲鹏昇腾开发者大会 2025 —— 昇腾 AI 开发者峰会上,华为推出了昇腾超节点技术,成功实现业界最大规模的 384 卡高速总线互联。
当前,大模型发展呈现参数与效率交替演进的态势:一方面,Scaling Law 不断推动模型能力突破极限;另一方面,以 DeepSeek 为代表的创新架构与工程技术,正加速模型能力在千行万业的落地应用。在此背景下,MoE 成为主流模型结构,其复杂的混合并行策略带来巨大挑战,TP、SP、EP 单次通信量高达 GB 级且难以掩盖。随着并行规模持续扩(kuò)大(dà),传(chuán)统(tǒng)服(fú)务(wu)器跨机带宽已成为训练的核心阻碍,亟需计算架构的创新升级以适配未来模型发展。
传统服务器依赖以太网络实现跨机互联,通信带宽较低。实践表明,当 TP、SP 或 EP 等分布式策略的混合并行域超过 8 卡时,跨机通信带宽便成为性能瓶颈,导致系统性能大幅下降。
据介绍,华为昇腾超节点打破了以 CPU 为中心的冯诺依曼架构,创新提出了对等计算架构,凭借高速总线互联技术实现重大突破,把总线从服务器内部,扩展到整机柜、甚至跨机柜。在超节点范围内,用高速总线互联替代传统以太,通信带宽提升了 15 倍;单跳通信时延也从 2 微秒做到 200 纳秒,降低了 10 倍,使集群如同一台计算机般协同工作,有效突破系统性能限制。
从华为中国官方获悉,此次推出的昇腾 384 超节点,由 12 个计算柜和 4 个总线柜构成,是目前业界规模最大的超节点。依托华为在 ICT 领域深厚的技术与工程经验,通过最佳负载均衡组网方案,该超节点可进一步扩展为包含数万卡的 Atlas 900 SuperCluster 超节点集群,为未来更大规模的模型演进提供支撑。
性能测试数据(jù)显(xiǎn)示(shì),在(zài)昇(shēng)腾(téng)超(chāo)节(jié)点集群上,LLaMA 3 等千亿稠密模型性能相比传统集群提升 2.5 倍以上;在通信需求更高的 Qwen、DeepSeek 等多模态、MoE 模型上,性能提升可达 3 倍以上,较业界其他集群高出 1.2 倍,在行业中处于领先地位。
相关新闻
当你在机场看到国产大飞机C919优雅起降时,可能想不到它的“诞生过程”有多硬核——这架拥有6万多个🆙零件、翼展35.8米的“钢铁巨兽”,其装配精度要控制在头发丝直径级别。更让人惊叹的是,沈阳中航沈飞民机工厂的自动化生产线,仅用6个关键零件就能创造年产值3亿元的奇迹。今天咱们就唠唠,C919在自动化装配路上啃下的五大“硬骨头”。第一块硬骨头:百万级制孔(kǒng)的(de)“针(zhēn)尖
想(xiǎng)象(xiàng)一(yī)下(xià),过(guò)去(qù)一(yī)条(tiáo)电(diàn)机(jī)装(zhuāng)配(pèi)线(xiàn)需(xū)要(yào)20名工(gōng)人(rén)轮(lún)班(bān)操(cāo)作(zuò),每(měi)天(tiān)最(zuì)多(duō)生(shēng)产(chǎn)500台(tái)电(diàn)机(jī);而
深圳市物联网产业协会成功举办《24小时自助图书馆通用规范》团体标准评审会
【导语】2019 年深圳市物联网产业协会发布的《24 小时自助图书馆通用规范》部分指标落后且引用文件有更新,不利行业发展。为此协(xié)会(huì)于(yú) 2024 年(nián) 11 月(yuè)启(qǐ)动(dòng)修(xiū)订(dìng)立(lì)项(xiàng),2025 年(nián) 10 月(yuè) 30 日(rì)召(zhào)开(kāi)评(píng)审(shěn)
全球智能视觉处理芯片龙头冲刺港交所:光环之下,何以冲破增长枷锁?
【导语】近日,智能视觉处理芯片龙头富瀚微递交港交所招股书,吹响“A+H”双上市号角。其虽在全球市场占据领先地位,但2022 - 2025年上半年营收、净利、毛利率均逐年下滑。不过,富瀚微注重研发创新,积极拓展AI新业务版图。此次赴港上市,能否助力其突破瓶颈、续写传奇,值得期待(dài)。 近(jìn)日(rì),智(zhì)能视觉处理芯片龙头富瀚微正式向港交所递交了招股书,吹响“
国家发改委等五部门:探索推动具身智能机器人进社区、进家庭,到 2027 年底建成 50 个以上全域数字化转型城市
【导语】10月31日,国家发展改革委等五部门发布《深化智慧城市发展推进全域数字化转型行动计划》,提出到2027年底建成50个以上全域数(shù)字(zì)化(huà)转(zhuǎn)型(xíng)城(chéng)市(shì),2035年(nián)涌(yǒng)现(xiàn)一(yī)批(pī)具(jù)有(yǒu)国(guó)际(jì)竞(jìng)争(zhēng)力(lì)的(de)现(xià
2025深圳安博会:大公博创揽三奖 低空安防技术引国内外媒体聚焦
【导语】2025年10月28日至31日,第二十届中国国际社会公共安全博览会在深圳启幕。成都大公博创信息技术有限(xiàn)公(gōng)司(sī)携(xié)全系(xì)列(liè)低(dī)空(kōng)安(ān)防(fáng)设(shè)备(bèi)参(cān)展(zhǎn),凭(píng)借(jiè)三(sān)项(xiàng)权(quán)威(wēi)大(dà)奖(jiǎng)、全栈(zh
【导语】中国电信率先公开展示业内首个“北斗语音消息”服务,首创 AI 算法实现语音极速传输;与此同时,华为也在第四届北斗峰会上发布相关功能,其手(shǒu)表(biǎo)成(chéng)首(shǒu)款(kuǎn)支(zhī)持(chí)终(zhōng)端(duān),北(běi)斗(dòu)应(yīng)用(yòng)再(zài)掀(xiān)新(xīn)篇(piān)。 据(jù