基本信息
文件名称:2025年注意力头剪枝重要性评估考题(含答案与解析).docx
文件大小:13.91 KB
总页数:9 页
更新时间:2025-09-13
总字数:约6.07千字
文档摘要
2025年注意力头剪枝重要性评估考题(含答案与解析)
一、单选题(共15题)
1.以下哪项技术是用于减少神经网络模型参数数量的常用方法?
A.模型并行策略
B.模型量化
C.知识蒸馏
D.分布式训练框架
2.在注意力机制中,以下哪项技术用于识别和剪除对最终输出影响较小的注意力权重?
A.结构剪枝
B.稀疏激活网络设计
C.注意力头剪枝
D.参数高效微调(LoRA/QLoRA)
3.以下哪种技术可以在不显著降低模型性能的情况下,显著减少模型参数数量?
A.梯度消失问题解决
B.集成学习
C.特征工程自动化
D.模型量化(INT8/FP16)
4.在注意力