基本信息
文件名称:2025年大模型参数高效微调对比(含答案与解析).docx
文件大小:14.86 KB
总页数:9 页
更新时间:2025-09-09
总字数:约6.77千字
文档摘要
2025年大模型参数高效微调对比(含答案与解析)
一、单选题(共15题)
1.以下哪项技术被广泛用于减少大模型训练时的计算资源消耗?
A.模型并行策略
B.分布式训练框架
C.低精度推理
D.知识蒸馏
2.在参数高效微调中,LoRA和QLoRA的主要区别是什么?
A.LoRA使用更小的参数规模
B.QLoRA使用量化技术
C.LoRA使用线性近似
D.QLoRA使用非线性近似
3.以下哪种方法可以有效解决梯度消失问题?
A.使用ReLU激活函数
B.采用批量归一化
C.优化器对比(Adam/SGD)
D.使用LSTM结构
4.在持续预训练策略中,以下哪种方法