2025年大模型注意力权重可解释性习题（含答案与解析）

一、单选题（共15题）

1.以下哪项技术能够提高大模型训练过程中注意力权重的可解释性？

A.参数高效微调（LoRA/QLoRA）

B.知识蒸馏

C.结构剪枝

D.知识提取

答案：A

解析：参数高效微调（LoRA/QLoRA）技术通过在模型中加入小参数来调整注意力权重，使模型更加可解释。这种方法在2025年的《AI模型可解释性指南》中被推荐用于提升大模型的可解释性。

2.在大模型中，以下哪种注意力机制被广泛用于提高模型的性能？

A.稀疏激活网络设计

B.卷积神经网络改进

C.Transformer变体（BERT/G