2025年大模型注意力机制的可解释性优化习题答案及解析

一、单选题（共15题）

1.在注意力机制的可解释性优化中，以下哪项技术可以帮助识别模型中不重要的注意力区域？

A.Grad-CAM

B.LIME

C.DeepLIFT

D.SHAP

答案：A

解析：Grad-CAM（Gradient-weightedClassActivationMapping）是一种注意力可视化技术，它通过计算每个像素对最终分类的贡献来识别注意力区域，从而帮助理解模型决策过程，参考《注意力机制的可解释性研究》2025版3.2节。

2.为了提高大模型训练过程中的注意力机制的可解释性，以下哪种方法不