2025年多模态算法研究员注意力优化面试题（含答案与解析）

一、单选题（共15题）

1.以下哪个不是Transformer模型的核心组件？

A.自注意力机制

B.位置编码

C.卷积神经网络

D.嵌入层

2.在分布式训练框架中，以下哪个策略能够有效降低通信开销？

A.模型并行

B.数据并行

C.参数服务器架构

D.单机多卡训练

3.在参数高效微调技术中，LoRA和QLoRA的区别是什么？

A.LoRA是线性方法，QLoRA是量化方法

B.LoRA使用比例缩放，QLoRA使用梯度缩放

C.QLoRA适用于更大的模型，LoRA适用于较小的模型

D.以上都是

4.为