基本信息

---

下载

文档摘要

---

2025年模型并行通信开销分析习题（含答案与解析）

一、单选题（共15题）

1.在模型并行策略中，以下哪种通信模式通常用于数据在模型不同部分之间的传输？

A.点对点通信

B.环形通信

C.全局广播通信

D.集中式通信

2.以下哪项不是模型并行通信开销的主要原因？

A.网络带宽限制

B.内存访问冲突

C.硬件设备延迟

D.模型复杂度

3.在分布式训练框架中，以下哪种通信协议主要用于模型并行计算中的数据同步？

A.MPI

B.NCCL

C.OpenMP

D.Pthreads

4.在模型并行策略中，以下哪种技术可以减少通信开销？

A.数据压缩

B.通信优化算法