国产大模型公司千卡 NVIDIA 推理集群生产交付
大模型公司 NVIDIA 千卡推理生产集群
基于 Coding 推理服务，对比传统 ROFT 网络架构，验证 ZCube 通过扁平化组网和更均衡网络通信释放推理有效算力。
15%
GPU 平均推理吞吐提升
40.6%
首 Token 时延（TTFT）P99 降低
33%
网络硬件成本减少
客户案例
国产算力芯片公司千卡生产集群
国产算力千卡级集群已上线稳定运行数月，持续承载真实业务流量，并面向真实用户提供服务。
国产算力芯片公司国产 GPU 千卡集群生产交付
项目信息
项目概览
项目环境、业务场景和验证方式。
- 客户类型
- 国产算力芯片公司
- 项目阶段
- 生产交付
- 硬件生态
- 国产 GPU 千卡集群
- 业务场景
- 真实业务与用户服务
- 交付路径
- 从集群交付到真实服务的生产闭环
- 案例类型
- 生产验证型案例
背景与挑战
项目背景
项目面向国产算力芯片公司的千卡级生产集群，目标不仅是完成测试验证，还要让网络长期承载真实业务负载并持续对外提供服务。
验证或交付方式
- 完成国产算力千卡级集群部署并投入生产环境
- 持续承载真实业务流量并稳定运行数月
- 面向真实用户提供服务并形成客户反馈闭环
验证结果
生产运行表现
本案例以生产事实呈现项目价值，不将缺少统一对比口径的运行表现包装为性能百分比。
- 01
千卡规模部署
国产算力集群完成上线。
- 02
生产环境运行
持续承载业务负载并稳定运行数月。
- 03
真实用户服务
面向真实用户持续提供服务。
- 04
客户反馈良好
形成从集群交付到用户反馈的生产闭环。
价值总结
案例价值
ZCube 从测试验证走向生产验证，在国产算力千卡集群中形成可持续运行、真实服务和客户反馈闭环。
- 体现 ZCube 在真实生产业务中的可用性
- 形成可复制的国产千卡集群交付与运维经验
- 以持续服务能力支撑长期合作关系
客户案例
其他客户案例
查看更多 ZCube 在不同算力环境、业务场景与项目阶段中的验证和生产实践。
从网络开始
让下一座智算中心，从网络开始更高效
围绕新建集群、存量改造、性能调优或智能运维，与我们一起评估网络如何释放更多有效算力。