基本信息
文件名称:机器学习应用基础 课件Ch11 -3 激活函数.pptx
文件大小:364.95 KB
总页数:9 页
更新时间:2025-08-16
总字数:约1.16千字
文档摘要
第十一章人工神经网络基础机器学习应用基础人工神经网络定义人工神经网络训练过程激活函数性能优化目录CONTENTS05示例:鸢尾花分类
激活函数03
激活函数激活函数(ActivationFunction)是一种添加到人工神经网络中的函数,旨在帮助网络学习数据中的复杂模式。类似于人类大脑中基于神经元的模型,激活函数最终决定了要发射给下一个神经元的内容。
ReLU函数只保留正值,负值置为零,计算简单,收敛快。但可能导致“神经元死亡”(DeadReLU)问题。LeakyReLU函数负值保留较小的梯度,避免DeadReLU问题,适合深层网络,但额外的负值参数需调试。Tan