基本信息
文件名称:2025年大模型知识蒸馏教师选择(含答案与解析).docx
文件大小:16.14 KB
总页数:20 页
更新时间:2025-10-19
总字数:约6.81千字
文档摘要
2025年大模型知识蒸馏教师选择(含答案与解析)
一、单选题(共15题)
1.以下哪种技术可以显著提高小模型在特定任务上的性能?
A.模型压缩
B.模型并行
C.知识蒸馏
D.结构剪枝
2.在知识蒸馏中,以下哪个指标用于衡量学生模型与教师模型之间的相似度?
A.精度损失
B.输出相似度
C.混合精度
D.模型大小
3.以下哪种方法可以提高知识蒸馏过程中的信息传递效率?
A.降低温度参数
B.增加温度参数
C.使用多任务学习
D.采用硬参数共享
4.在大模型知识蒸馏中,以下哪种技术有助于减少学生模型的计算复杂度?
A.低精度推理
B.模型剪枝
C.