智谱AI算力优化榜单：不加GPU提升15%性能的Infra新成果测评

在AI算力竞争日趋激烈的当下，一个核心挑战日益凸显：如何在不追加硬件资本支出的情况下，最大化释放现有计算集群的效能？

智谱AI的最新解决方案，聚焦于基础设施的“神经网络”——通信架构。其近期在生产环境中完成验证的ZCube推理集群组网架构，取得了关键性突破。数据显示，在未增购GPU、未更换服务器、且业务代码零改动的前提下，集群整体推理吞吐量实现了15%的提升。

这15%的性能增益并非实验室基准测试结果，而是直接转化为生产效益：同等硬件规模下，可承载更高并发请求或显著缩短任务处理时间。对于部署了上万张加速卡的大型AI服务而言，此举等同于凭空获得了可观的额外算力，其商业价值与成本优化意义重大。

性能跃升：超越吞吐量的全面优化

性能优化若仅提升吞吐而牺牲响应速度，则意义有限。ZCube架构的优势在于其提供了全面的性能增强。除吞吐量外，其在影响用户体验的关键指标——响应延迟上表现更为突出。

具体而言，系统首Token响应尾延迟（TTFT P99）降低了40.6%。该指标衡量的是用户请求至收到模型首个输出token的最差延迟情况（P99分位）。如此显著的下降，意味着终端用户感知到的等待与卡顿将大幅减少，交互流畅度获得本质改善。这对于实时对话应用、代码生成等对延迟极度敏感的场景，具有决定性价值。

成本重构：硬件开销锐减三分之一

更为关键的是，该架构在提升效能的同时，直接降低了硬件采购成本。根据已披露数据，采用ZCube架构后，所需交换机与光模块的硬件成本支出减少了约三分之一。

这一结果揭示了一个清晰的行业演进方向。以往，为追求极致的低延迟与高带宽，大规模AI集群通常依赖复杂的多层网络拓扑与大量高速率光模块。ZCube的成功实践表明，通过底层架构创新，对高端交换机的需求正转向“层级简化、端口密度提升”的新范式。同时，光模块的需求也从分散的多速率采购，向更集中、更高速率的配置收敛。

这意味着未来的基础设施采购清单将更精简、更聚焦。此举不仅直接节省了采购成本，更预示着整个集群的布线复杂度、运维难度及整体能耗都有望同步下降，实现全生命周期成本的优化。

智谱此次在基础设施层面的突破，可视为对当前AI算力扩展瓶颈的一次精准破局。当单卡算力与服务器规模扩张面临物理与成本双重约束时，从网络、存储、调度等系统级层面挖掘潜力已成为必然路径。ZCube的验证成功，为行业提供了一个极具参考价值的范本：提升整体算力效率的关键，有时并不在于堆叠更多计算芯片，而在于优化连接这些芯片的“高速公路”体系。