基本信息
文件名称:2025年大模型稀疏注意力计算优化专题试题答案及解析.docx
文件大小:15.3 KB
总页数:7 页
更新时间:2025-09-27
总字数:约6.86千字
文档摘要
2025年大模型稀疏注意力计算优化专题试题答案及解析
一、单选题(共15题)
1.以下哪个技术可以显著降低大模型训练所需的内存消耗?
A.模型并行策略
B.知识蒸馏
C.模型量化(INT8/FP16)
D.结构剪枝
答案:D
解析:结构剪枝通过移除网络中的冗余神经元或连接,减少了模型的大小和计算量,从而降低了内存消耗,详见《深度学习模型压缩技术手册》2025版第4.2节。
2.在稀疏注意力计算中,以下哪种方法可以有效减少计算量而不影响模型性能?
A.参数高效微调(LoRA/QLoRA)
B.持续预训练策略
C.对抗性攻击防御
D.推理加速技术
答案:A
解析:Lo