基本信息
文件名称:2025年大模型注意力稀疏化计算试题答案及解析.docx
文件大小:15.62 KB
总页数:7 页
更新时间:2025-09-24
总字数:约7.09千字
文档摘要
2025年大模型注意力稀疏化计算试题答案及解析
一、单选题(共15题)
1.以下哪种方法能够显著减少大模型训练过程中所需的计算资源?
A.分布式训练框架
B.参数高效微调(LoRA/QLoRA)
C.持续预训练策略
D.对抗性攻击防御
2.在大模型注意力机制中,以下哪种技术可以有效减少计算量并提升推理速度?
A.推理加速技术
B.模型并行策略
C.低精度推理
D.云边端协同部署
3.为了提高大模型在小数据集上的性能,以下哪种技术最为关键?
A.知识蒸馏
B.模型量化(INT8/FP16)
C.结构剪枝
D.稀疏激活网络设计
4.在评估大模型的性能时,以下哪个