基本信息

---

下载

文档摘要

---

2025年大模型分布式训练优化试题（含答案与解析）

一、单选题（共15题）

1.以下哪个分布式训练框架支持多租户并行训练，有效提高资源利用率？

A.TensorFlowDistributionStrategy

B.PyTorchDistributed

C.Horovod

D.MXNet

2.在参数高效微调（LoRA/QLoRA）中，LoRA的主要优势是什么？

A.更高的计算效率

B.更低的内存消耗

C.更好的泛化能力

D.以上都是

3.持续预训练策略中，以下哪种方法可以降低预训练阶段的资源消耗？

A.使用较小的预训练模型

B.采用低精度计算

C.使用预训练