基本信息
文件名称:AI概论及应用 课件 3.3 优化常用概念.pptx
文件大小:1.35 MB
总页数:30 页
更新时间:2026-01-12
总字数:约4.53千字
文档摘要
优化常用概念
CATALOGUE目录1.链式法则-反向传播的数学基础泰勒展开-复杂函数的近似表达2.梯度下降法-深度学习的优化引擎3.拉格朗日乘数法-约束优化的利器4.牛顿法-二阶优化的智慧5.凸优化-理想化的数学世界6.优化方法在人工智能中的应用全景图7.总结与展望8.
01链式法则-反向传播的数学基础
如果y=f(u)且u=g(x),那么链式法则的数学表达链式法则是一个计算复合函数导数的方法。想象一个由多个齿轮组成的机器。当你转动第一个齿轮时,最后一个齿轮的转速取决于所有中间齿轮的转速比。链式法则就像是计算这个最终的转速比。
假设有一个