基本信息

---

下载

文档摘要

---

并行计算及大模型相关技术知识测试试卷

()

在Transformer架构中，多头注意力机制通过[]实现对输入序列不同语义层面的捕捉，其输出是各头注意力结果的拼接与线性变换。

()(正确答案将查询、键、值投影到多个低维子空间并行计算注意力)

参数高效微调技术LoRA通过向权重矩阵插入[]来减少计算量，同时保持模型性能

()(正确答案低秩分解组件)

对于循环神经网络（RNN），当处理长序列数据时容易出现梯度消失或爆炸问题，而门控循环单元（GRU）通过引入[]来控制信息的流动，有效缓解了长距离依赖问题

()(正确答案更新门和重置门)

RPA的[]负责协调和管理多个活动的执