基本信息

---

下载

文档摘要

---

2025年知识蒸馏算法优化习题（含答案与解析）

一、单选题（共15题）

1.在知识蒸馏过程中，以下哪项操作通常用于提高学生模型的表达能力？

A.增加学生模型的参数量

B.减少教师模型的参数量

C.使用更复杂的网络结构

D.调整教师模型的输出温度

2.知识蒸馏中的交叉熵损失函数通常与以下哪个指标结合使用？

A.KL散度

B.L1范数

C.L2范数

D.Hinge损失

3.在知识蒸馏中，以下哪个策略可以减少教师模型和学生模型之间的差异？

A.使用硬标签

B.使用软标签

C.降低教师模型的输出温度

D.提高学生模型的输出温度

4.以下哪个技术通常用于提高知识蒸馏算