大模型时代的智算基础设施演进趋势探讨

杨维

中兴通讯-算力及核心网产品线

01

业界热点观察

02

训练端超万卡集群的挑战及演进

03

推理端多场景挑战及技术演进

04

中兴智算方案与实践

01

业界热点观察

训练算力规模成为核心竞争力，超万卡智算集群建设提速

国际巨头纷纷发力，超大规模算力成为未来发展主旋律

国际巨头纷纷发力，超大规模算力成为未来发展主旋律

加速建设超万卡，超万卡正在成为标配

单集群GPUs未来路线图

单集群GPUs

特斯拉GoogleOpenAIMeta电信

特斯拉Google

OpenAIMeta电信字节移动

10万+

26000+