基本信息
文件名称:2025年大模型参数高效微调对比(含答案与解析).docx
文件大小:14.86 KB
总页数:9 页
更新时间:2025-09-09
总字数:约6.77千字
文档摘要

2025年大模型参数高效微调对比(含答案与解析)

一、单选题(共15题)

1.以下哪项技术被广泛用于减少大模型训练时的计算资源消耗?

A.模型并行策略

B.分布式训练框架

C.低精度推理

D.知识蒸馏

2.在参数高效微调中,LoRA和QLoRA的主要区别是什么?

A.LoRA使用更小的参数规模

B.QLoRA使用量化技术

C.LoRA使用线性近似

D.QLoRA使用非线性近似

3.以下哪种方法可以有效解决梯度消失问题?

A.使用ReLU激活函数

B.采用批量归一化

C.优化器对比(Adam/SGD)

D.使用LSTM结构

4.在持续预训练策略中,以下哪种方法