基本信息
文件名称:2025年大模型残差连接优化技术专题训练题.docx
文件大小:15.7 KB
总页数:7 页
更新时间:2025-09-30
总字数:约7.21千字
文档摘要
2025年大模型残差连接优化技术专题训练题
一、单选题(共15题)
1.在大模型残差连接优化技术中,以下哪个技术可以有效减少梯度消失和梯度爆炸问题?
A.LeakyReLU激活函数
B.BatchNormalization
C.WeightDecay
D.Dropout
2.以下哪种策略可以用于优化大模型在分布式训练环境下的内存使用?
A.模型并行
B.数据并行
C.硬件加速
D.参数高效微调
3.在持续预训练策略中,以下哪种方法可以帮助模型更好地捕捉长期依赖关系?
A.Transformer结构
B.Reformer结构
C.LongShort-Term