基本信息
文件名称：深度学习基础与案例教程 课件 第7章 Transformer模型.pptx
文件大小：18.09 MB
总页数：43 页
更新时间：2025-08-29
总字数：约1.96万字
文档摘要
深度学习基础与实例教程Transformer模型第七章
目录02自编码器Autoencoder01自注意力机制Selfattentionmechanism03Transformer机制及应用TransformerMechanismandApplications
自注意力机制Selfattentionmechanism301
7.1自注意力机制4Transformer的核心是自注意力机制（Self-Attention）。在时间序列数据中，往往在不同的时刻之间存在着很强的相关性。对于这种相关性的处理，RNN于LSTM都是通过递归性质与隐藏状态来实现的。但隐藏层的能力是有限的，