基本信息
文件名称:看好2026年AI产业端云并进大趋势.pptx
文件大小:3.04 MB
总页数:22 页
更新时间:2026-03-10
总字数:约1.27千字
文档摘要
0;;在模型训练过程中,HBM、DRAM与NAND分别承担计算态、调度态与存储态的不同角色。
HBM作为GPU的高带宽工作内存,直接参与模型前向与反向计算,是算力发挥的必要条件;
DRAM位于CPU侧,主要用于数据加载、预处理与缓存,起到解耦I/O与计算、提升GPU利用率的作用;
而NAND则承担训练数据集与模型Checkpoint的长期存储任务,其核心价值在于提供大容量、低成本的存储基础。
三者构成分层协同关系,缺一不可,且在功能上难以相互替代。
在模型推理过程中,HBM、DRAM与NAND构成分层协同的存储体系。
HBM作为GPU的高带宽工作内