基本信息

---

下载

文档摘要

---

2025年大模型推理服务扩展（含答案与解析）

一、单选题（共15题）

1.以下哪项技术被广泛应用于大模型推理服务中，以实现模型并行化？

A.模型剪枝

B.模型量化

C.模型并行策略

D.知识蒸馏

2.在大模型推理服务中，如何通过分布式训练框架提高推理效率？

A.使用CPU进行推理

B.利用GPU集群进行分布式推理

C.将模型部署在边缘设备

D.仅使用单核CPU进行推理

3.大模型推理服务中，如何实现低精度推理以降低计算成本？

A.使用INT8精度

B.使用FP16精度

C.使用FP32精度

D.使用双精度浮点数

4.在大模型推理服务中，以下哪项技术有助于减少