基本信息
文件名称:MegatronApp:面向万亿参数大模型的训练与推理增强实践.pdf
文件大小:3.17 MB
总页数:45 页
更新时间:2026-03-03
总字数:约1.31万字
文档摘要

赵伯罕

●大模型训练中的典型困境

●MegatronAPP:把训练从黑箱变为可控系统

●Megascan:让慢节点无处藏身

目录●MegaFBD:解耦前后向计算实例

●MegaDPP:弹性流水线调度

.