基本信息

---

下载

文档摘要

---

大语言模型相关概念及特点单选题试卷

您的姓名：[填空题]*

_________________________________

NTK-RoPE通过调整什么参数提升外推能力？[单选题]*

A.旋转矩阵的维度

B.基的底数b(正确答案)

C.注意力头数

D.窗口大小

答案解析：

解析：NTK-RoPE通过增大底数b，缩小基θi，使旋转角度适应更长序列

混合精度训练主要使用：[单选题]*

A）FP32计算梯度

B）FP16存储权重(正确答案)

C）FP16计算梯度

D）BF16保存检查点

答案解析：

解析：混合精度用FP16计算加速，用FP32保存主权重防止精度