一图读懂

图注:一图读懂本文要点——单柜密度翻了四倍多,但决定成本的不是芯片那一栏(来源:源势AI)

2026 工博会上,国产芯片厂商集中展出超节点方案。沐曦股份带来曦景 S600,单机柜 64 卡全互连;天数智芯首次展出天垓 300 IXL144,单柜可集成 144 颗 GPU,为目前业内单柜最高密度;阿里云也在云栖大会上展示了磐久 AL144 ScaleUp 超节点,单柜 ScaleUp 域最大 144 卡(来源:21世纪经济报道,2026-10-14)。

对比三年前的主流做法:标准机柜装 4U 服务器、每台 8 卡,即便采用 30 至 50kW 的高电机柜,也只能容纳 3 至 4 台——单柜容量长期停在 24 至 32 卡(来源:21世纪经济报道,2026-10-14)。

从 32 到 144,翻了四倍多。这个数字好看,但它回答的问题很窄。

密度是被通信逼出来的

单柜塞多少卡,本来由机柜的供电和承重决定;这几年推着它往上走的,是网络。

大模型参数从千亿迈向万亿之后,集群间靠网卡通信的内存带宽成了墙。卡与卡之间走外部网络,延迟和带宽都不够用,厂商的解法是把互连范围收进机柜内部——柜内全互连,密度随之跳到 64、128 乃至 144 卡(来源:21世纪经济报道,2026-10-14)。

源势AI 此前跟过这条线:阿里云在乌兰察布上线的灵骏真武 M890 超节点,单卡 144GB 显存、性能是上一代 810E 的三倍,更值得看的另一组数字是 64 张卡、卡间带宽 800GB/s、点对点通信时延 150 纳秒以内(来源:源势AI《算力的瓶颈换成连接》,2026-08-19,引 SDNLAB《真武 M890 超节点深度技术解析》)。阿里云自己的判断是,在超大规模集群里,决定性能上限的不是计算单元,而是连接它们的网络。

同一份技术解析里还有一条规模数据:这个单元已经跑通超 2 万亿参数的大模型,Kimi K3 与阿里自有的 Qwen3.8-Max 都在上面对外提供服务,单实例上限能扛到十万亿参数级的 MoE 模型推理(来源:《网络定义集群:阿里云灵骏真武 M890 超节点深度技术解析》,笔记同步助手/2026-08-14)。

英伟达走的也是这条路,只是把机架规模定在 72:节点规模由 8-GPU HGX 提升到 72-GPU NVL72,聚合带宽 130 TB/s,单机架相当于一台逻辑 GPU,封装内 NVLink-C2C 让 CPU/GPU 共享一致性内存、消掉 PCIe DMA 开销(来源:《AI Superchip 与机架级架构:Blackwell NVL72 与 NVLink-C2C》,研究报告/11-AI-Fundamentals)。

单柜 GPU 密度的变化

图注:标准机柜 24 至 32 卡是供电与承重约束下的旧上限,柜内全互连把密度推到 64 至 144 卡(数据来源:21世纪经济报道,2026-10-14)

144 不等于吞吐

这里有个必须说清的口径。

"144 卡"是单柜集成密度,不等于算力,也不等于有效吞吐。跨厂商的数字因互连方案、显存池化规模与供电条件不同,不宜直接比较(来源:21世纪经济报道,2026-10-14)。

同样是 144 卡,全互连域有多大、显存能不能池化、柜内带宽是多少,直接决定跑万亿参数模型时是真加速还是纯粹堆料。更关键的是,柜内互连速率的提升不会自动转化为柜间效率:一个超节点内部的带宽做到 130 TB/s,如果两个超节点之间还是普通以太网,跨柜通信依旧会成为瓶颈(来源:《AI Superchip 与机架级架构:Blackwell NVL72 与 NVLink-C2C》,研究报告/11-AI-Fundamentals)。

天数智芯副总裁郭为给了一个使用条件:只有高并发、超长上下文、需要超大显存的高附加值场景,才值得买超节点,最典型的是"Token 工厂"(来源:21世纪经济报道,2026-10-14)。

这句话反过来读也成立——推理批次小、上下文短、显存吃得少的场景,买个 144 卡的单柜,大部分时间会空转。

超节点的适用场景

图注:高并发、超长上下文、超大显存三类场景才适配超节点;其余负载下,密度的收益抵不过改造与运维成本(数据来源:21世纪经济报道,2026-10-14)

三笔账:迁移、机房、运营

芯片成本只是冰山一角。

郭为把厂商该帮客户算清的账归纳为三笔:算法迁移成本、机房改造成本、运营成本(来源:21世纪经济报道,2026-10-14)。

机房改造这一笔最容易被低估。144 卡全互连通常配液冷,供电要重做、承重要重算、散热管路要新铺,严重时要新建机房。旧机房改造的成本,有时比再建一个更贵。

迁移成本也不是一次性支出。原来的训练/推理代码针对 8 卡节点写过,换成柜内全互连的单域之后,并行策略、通信原语、显存切分方式都要重写,调优周期以周计。

运营成本藏在密度本身:一个 30 至 50kW 的机柜已经接近传统数据中心的散热极限,144 卡方案的实际功耗普遍更高,电价、PUE、故障影响面全部随之放大;一次柜级故障波及的算力规模,可能是原来十几个机柜的量(来源:21世纪经济报道,2026-10-14)。

国产厂商在这类超节点上的实际出货规模与客户名单,目前均未披露。

源势AI观点

第一,把"单柜密度"和"可用吞吐"分成两个指标验收。144 卡是集成能力,跑通多少参数、在什么批大小下有效吞吐是多少,才是可用性。招标文件里如果只写密度,供应商会按最容易达成的那个数交付。

第二,机房改造成本要在采购立项前估算,不能算在"上线后优化"里。液冷管路、供电扩容、承重加固这三项动辄触及土建,等设备到货再发现装不进去,沉没成本极高。

第三,先确认业务属于哪一类,再决定要不要买超节点。高并发、超长上下文、超大显存三类场景能吃下这份密度;其余负载下,多卡普通节点加高速网络的组合,往往在总拥有成本上更划算。

来源说明:本文数据线索来自 2026-10-15 的 Tech Digest《AI行业24小时_20261015_10》;"144 卡"为单柜集成密度口径,非算力或有效吞吐,跨厂商数字不可直接比较。

话题标签:#超节点 #算力基础设施 #总拥有成本