基本信息

---

下载

文档摘要

---

2025年大模型分布式推理框架（含答案与解析）

一、单选题（共15题）

1.在分布式推理框架中，以下哪个策略主要用于提高模型并行度？

A.数据并行

B.模型并行

C.硬件加速

D.混合并行

2.在大模型分布式推理中，以下哪种技术可以实现模型量化，降低计算成本？

A.INT8量化

B.INT16量化

C.FP16量化

D.双精度量化

3.以下哪种技术可以帮助减少大模型分布式推理过程中的通信开销？

A.模型剪枝

B.知识蒸馏

C.模型压缩

D.服务器端推理

4.在分布式推理框架中，以下哪个技术可以帮助解决梯度消失问题？

A.激活函数归一化

B.学习率调整

C