基本信息
文件名称：基于梯度的优化方法：共轭梯度法_（4）.共轭梯度法的数学推导.docx
文件大小：22.38 KB
总页数：8 页
更新时间：2026-02-11
总字数：约2.67千字
文档摘要
PAGE1
PAGE1
共轭梯度法的数学推导
引言
共轭梯度法（ConjugateGradientMethod,CGM）是一种用于求解大规模线性方程组Ax=b的迭代方法，特别是当矩阵
二次函数优化问题
考虑一个二次函数fx=12xTAx?bTx+c
梯度和Hessian矩阵
对于二次函数fx，其梯度?fx和Hessian矩阵
?
H
最优解的条件
由于A是对称正定矩阵，二次函数fx有唯一的最小值点x
A
共轭方向
共轭梯度法的核心是选择一组共轭方向。假设A是一个n×n的对称正定矩阵，向量d0,
d
这组共轭方向具有以下性质：1.任何两个不同的共轭方