基本信息

---

下载

文档摘要

---

算力、GPU、AI服务器详解;;

智算特征—训练算力集中高密部署，推理算力贴近客户快速交互

o训练：需要较高计算性能及海量数据，集群内网络时延性能要求高，需要集中高密部署；耗电量大，无需靠近最终用户，电力供应充足、能源成本低的蒙贵甘宁等西部区域数据中心有一定优势

o推理：需要低时延、高弹性的计算，需要与模型实时交互，可部署在贴近用户的数据中心，当前主要集中在训推一体的京津冀、长三角、大湾区等重点区域;

1、基础算力：以CPU的计算能力为主。适用于各个领域的计算。

2、智能算力：以GPU、FPGA、ASIC芯片等输出的计