智谱联合清华等提出ZCube组网架构:大模型推理吞吐提升15%,网络成本削减三分之一

大模型推理正在重新定义AI基础设施,网络架构创新成为释放硬件潜能的关键路径。2025年9月,智谱、驭驯网络与清华大学在网络领域 顶级 会议ACM SIGCOMM2025上发表了关于ZCube网络架构的

大模型推理正在重新定义AI基础设施,网络架构创新成为释放硬件潜能的关键路径。2025年9月,智谱、驭驯网络与清华大学在网络领域顶级会议ACM SIGCOMM2025上发表了关于ZCube网络架构的研究成果。

2026年5月21日,智谱宣布该架构已在GLM-5.1coding生产环境中成功落地,实现了跨越式的性能调优。基准测试表明,在GPU、软件栈及应用保持不变的前提下,ZCube架构使交换机与光模块的资本支出减少33%,GPU平均推理吞吐提升15%,首Token时延(TTFT P99)降低40.6%,实现了兼顾高经济性与高性能的系统级突破。

当前,随着长上下文推理与Prefill-Decode(PD)分离部署成为行业主流,KV Cache的跨节点传输呈现出高度的不对称性。传统基于多层交换机堆叠的ROFT(Rail-Optimized Fat-Tree)架构因静态拓扑限制,极易引发局部热点与PFC反压,形成“总带宽宽裕、局部频繁拥塞”的结构性瓶颈。

针对这一痛点,ZCube架构打破了传统Clos架构的层次化堆叠思路,取消了Spine层交换机,采用完全扁平化的两组交换机进行二部图互联,并结合双端口网卡的单/多轨混合接入机制。配合特有的路由策略,ZCube能确保任意GPU对之间拥有独享的最优路径,从结构层面完美实现流量负载均衡,可支持数万张乃至数十万张GPU的超大规模扩展。

在生产环境改造中,驭驯网络团队利用自动化控制与校验工具,成功克服了布线和路由策略重构的挑战,保障了集群的快速平稳升级。目前该千卡集群已稳定运行两周以上。ZCube的成功落地标志着智算基础设施正从通用互联走向模型流量驱动的系统协同。未来,网络拓扑、通信库与调度策略的深度耦合,将成为进一步提升Token生产效率与降低MaaS综合成本的核心驱动力。

💬 评论
🔗 本文链接

以专业为基,引领科技向善向新

Rooted in professionalism, we lead technology toward social good and innovation.

数智化转型网 · 了解更多产业资讯与选型数据 →

📰 你可能也喜欢

数智化转型网每日AI资讯 AI情报站

AI圈国庆大动作:DeepSeek拟募 800 亿,OpenAI立下 28 天连更军令状

这个国庆假期,国内外的AI公司都没闲着,几笔资金与产品的大动作接连砸进视野。最重的一记来自DeepSeek——路透社10月6日援引知情人士称,这家公司正在推进的…
📅 10-30 · 👁 2026年10月30日
数智化转型网每日AI资讯 AI情报站

Manus 母公司完成新一轮超5亿美元融资,腾讯红杉继续加码

AI 明星公司 Manus 的母公司近日完成新一轮超5亿美元融资,估值大幅攀升。本轮由博裕投资和 IDG 资本联合领投,老股东腾讯、红杉中国等继续跟投,显示出资…
📅 10-30 · 👁 2026年10月30日
数智化转型网每日AI资讯 AI情报站

大模型商业化步伐提速 可灵AI冲刺港股或开启生成式AI上市新阶段

近日,有消息称快手科技旗下人工智能视频服务提供商可灵AI正筹备赴香港开展首次公开募股(IPO),目前已选定中金公司、高盛集团及瑞银集团作为承销银行,计划募资规模…
📅 10-30 · 👁 2026年10月30日
数智化转型网每日AI资讯 AI情报站

豆包App上线生活缴费功能,加速布局高频生活办事场景

10月9日,据《读佳》报道,字节跳动旗下AI助手豆包正式新增“生活缴费”功能。用户只需在豆包App内通过语音或打字下达“交水费”等相关指令,系统即可实时弹出现场…
📅 10-29 · 👁 2026年10月29日
数智化转型网每日AI资讯 AI情报站

腾讯总部座谈会披露AI进展:马化腾与首席AI科学家姚顺雨相邻而坐

10月8日,广东省委书记黄坤明赴深圳腾讯总部调研,重点考察企业在人工智能方向的研发创新与产业布局。在随后的座谈会上,腾讯创始人、董事会主席兼CEO马化腾与腾讯首…
📅 10-29 · 👁 2026年10月29日
数智化转型网每日AI资讯 AI情报站

阶跃首款大模型原生智能体手机定档:一句话调度跑腿,拍张海报就帮你请假

阶跃终端把"手机自己干活"这件事推到了发布台前。它宣布旗下首款大模型原生智能体手机STEPX Neo将于10月13日晚7点正式亮相,这台机器…
📅 10-29 · 👁 2026年10月29日