基本信息
文件名称:2025年大模型参数高效微调对比(含答案与解析).docx
文件大小:16.93 KB
总页数:23 页
更新时间:2025-10-21
总字数:约8.83千字
文档摘要
2025年大模型参数高效微调对比(含答案与解析)
一、单选题(共15题)
1.在参数高效微调(LoRA/QLoRA)技术中,以下哪个参数控制了微调过程中模型的调整范围?
A.LearningRate
B.Alpha
C.Dropout
D.BatchSize
答案:B
解析:在LoRA/QLoRA技术中,参数Alpha(α)控制了微调过程中模型的调整范围,α值越大,模型的调整范围越大,但过大会导致过拟合,参考《高效微调技术指南》2025版3.2节。
2.以下哪种技术可以有效解决梯度消失问题,尤其在长序列处理时?
A.LayerNormalization
B.Ada