基本信息
文件名称:2025年注意力头剪枝重要性评估考题(含答案与解析).docx
文件大小:13.91 KB
总页数:9 页
更新时间:2025-09-13
总字数:约6.07千字
文档摘要

2025年注意力头剪枝重要性评估考题(含答案与解析)

一、单选题(共15题)

1.以下哪项技术是用于减少神经网络模型参数数量的常用方法?

A.模型并行策略

B.模型量化

C.知识蒸馏

D.分布式训练框架

2.在注意力机制中,以下哪项技术用于识别和剪除对最终输出影响较小的注意力权重?

A.结构剪枝

B.稀疏激活网络设计

C.注意力头剪枝

D.参数高效微调(LoRA/QLoRA)

3.以下哪种技术可以在不显著降低模型性能的情况下,显著减少模型参数数量?

A.梯度消失问题解决

B.集成学习

C.特征工程自动化

D.模型量化(INT8/FP16)

4.在注意力