基本信息
文件名称:2025年大模型知识蒸馏动态压缩技术专项训练.docx
文件大小:15.08 KB
总页数:7 页
更新时间:2025-09-29
总字数:约6.93千字
文档摘要
2025年大模型知识蒸馏动态压缩技术专项训练
一、单选题(共15题)
1.以下哪项技术主要用于减少大模型在移动设备上的推理资源消耗?
A.模型并行策略
B.知识蒸馏
C.结构剪枝
D.低精度推理
2.在知识蒸馏过程中,以下哪个指标通常用于评估教师模型和学生模型的性能差异?
A.准确率
B.感知损失
C.困惑度
D.精度损失
3.动态压缩技术中,以下哪种方法可以实时调整模型参数,以适应不同的计算资源?
A.参数高效微调(LoRA/QLoRA)
B.持续预训练策略
C.模型并行策略
D.云边端协同部署
4.在大模型知识蒸馏过程中,以下哪种技术可以有效提高学生模型