基本信息
文件名称:清华大学《机器学习》ppt课件 11-p3-深度学习3.pptx
文件大小:5.15 MB
总页数:34 页
更新时间:2025-06-25
总字数:约1.93千字
文档摘要

机器学习

MachineLearning

第9讲:神经网络与深度学习Part-3自编码器、注意力机制、Transformer

一个自编码器的基本结构示例1.自编码器结构(Autoencoders)

基本自编码器编码器解码器神经网络的第一隐藏层表示编码为输出层(解码器)为

基本自编码器(续)自编码器训练问题从无监督学习转化为一种监督学习问题(可理解为一种自监督学习)经验损失函数表示为采用加正则化的目标函数

堆叠自编码器示意图28*28手写数字数据库MNIST,通过两级堆叠自编码器,得到40维编码输出

降噪自编码器(denoisingautoencoders)被损坏的变换信号