基本信息
文件名称:2025年大模型注意力稀疏化计算试题答案及解析.docx
文件大小:15.62 KB
总页数:7 页
更新时间:2025-09-24
总字数:约7.09千字
文档摘要

2025年大模型注意力稀疏化计算试题答案及解析

一、单选题(共15题)

1.以下哪种方法能够显著减少大模型训练过程中所需的计算资源?

A.分布式训练框架

B.参数高效微调(LoRA/QLoRA)

C.持续预训练策略

D.对抗性攻击防御

2.在大模型注意力机制中,以下哪种技术可以有效减少计算量并提升推理速度?

A.推理加速技术

B.模型并行策略

C.低精度推理

D.云边端协同部署

3.为了提高大模型在小数据集上的性能,以下哪种技术最为关键?

A.知识蒸馏

B.模型量化(INT8/FP16)

C.结构剪枝

D.稀疏激活网络设计

4.在评估大模型的性能时,以下哪个