基本信息
文件名称:MegatronApp:面向万亿参数大模型的训练与推理增强实践.pdf
文件大小:3.17 MB
总页数:45 页
更新时间:2026-03-03
总字数:约1.31万字
文档摘要
赵伯罕
●大模型训练中的典型困境
●MegatronAPP:把训练从黑箱变为可控系统
●Megascan:让慢节点无处藏身
目录●MegaFBD:解耦前后向计算实例
●MegaDPP:弹性流水线调度
.