基本信息

---

下载

文档摘要

---

2025年大模型知识蒸馏（含答案与解析）

一、单选题（共15题）

1.以下哪项技术是知识蒸馏中用于将大模型的知识迁移到小模型的关键步骤？

A.模型并行策略

B.知识蒸馏

C.结构剪枝

D.梯度消失问题解决

2.在知识蒸馏过程中，以下哪种损失函数被广泛用于衡量学生模型和教师模型的差异？

A.Hinge损失

B.Cross-Entropy损失

C.MeanSquaredError损失

D.Softmax交叉熵损失

3.知识蒸馏过程中，以下哪种技术可以减少计算复杂度，从而加速蒸馏过程？

A.低精度推理

B.模型量化

C.知识剪枝

D.模型压缩

4.在知识蒸馏中