基本信息
文件名称:2025年大模型激活函数优化考核卷答案及解析.docx
文件大小:15.09 KB
总页数:8 页
更新时间:2025-09-30
总字数:约7.37千字
文档摘要
2025年大模型激活函数优化考核卷答案及解析
一、单选题(共15题)
1.在大模型训练中,以下哪种方法可以显著减少梯度消失问题?
A.使用ReLU激活函数
B.引入Dropout技术
C.增加网络层数
D.使用残差网络结构
答案:D
解析:残差网络通过跳跃连接的方式直接将输入信号加到激活函数后的输出上,减少了梯度在反向传播过程中的消失,提高了模型训练的稳定性。参考《深度学习原理与算法》2025版4.3节。
2.在分布式训练框架中,以下哪种技术可以优化模型并行效率?
A.数据并行
B.模型并行
C.策略并行
D.通信优化
答案:D
解析:通信优化通过减少通信开销和优