基本信息

---

下载

文档摘要

---

2025年大模型动态学习率调整试题答案及解析

一、单选题（共15题）

1.在大模型训练过程中，以下哪种学习率调整策略可以有效应对模型在训练早期快速收敛，在后期逐渐减缓收敛速度的情况？

A.StepDecay

B.ExponentialDecay

C.CosineAnnealing

D.AdaptiveLearningRate(如Adam)

2.以下哪种技术可以使得大模型在持续预训练过程中更好地捕捉长距离依赖关系？

A.PositionalEncoding

B.Transformer结构

C.LayerNormalization

D.RecurrentN