第七章习题
7.1求下列函数在各点的最速下降方向：
（1），，
解：，，
（2），，
解：，，
（3），，
解：，，
（4），，
解：，，
7.2求下述函数：
在点处的牛顿方向，并求解最优解。
解：，
第一次迭代，
，
第二次迭代，
，
第三次迭代，
，
第四次迭代，
，
第五次迭代，
因此，最优解为。
7.3利用最速下降法求解下述问题：
在初始点为，迭代次数为2次的最优解
解：
第一次迭代，
带入方程中，
第二次迭代，
带入方程中，
7.4证明下述向量和关于矩阵A共轭
，，
解：
因此，向量和关于矩阵A共轭。
7.5给出下列矩阵的一组共轭方向
，，
解：共轭方向不唯一：针对于矩阵A、B和C，其共轭方向为：
和，和，和，
7.6利用共轭梯度法求解下列问题：
（1），初始点
解：求目标函数的梯度为：
第一次迭代，搜索方向为：
从出发，沿着搜索方向进行一维搜索，得到：
第二次迭代，在处，目标函数的梯度为：
构造共轭搜索方向，计算因子：
从出发，沿着搜索方向进行一维搜索，得到：
第三次迭代，在处，目标函数的梯度为：
因此，是方程的最优解
（2），初始点
解：函数的梯度方向为
第一次迭代，搜索方向为：
从出发，沿着搜索方向进行一维搜索，得到：
第二次迭代，在处，目标函数的梯度为：
构造共轭搜索方向，计算因子：
从出发，沿着搜索方向进行一维搜索，得到：
第三次迭代，在处，目标函数的梯度为：
因此，是方程的最优解
（3），初始点
解：函数的梯度方向为
第一次迭代，搜索方向为：
从出发，沿着搜索方向进行一维搜索，得到：
第二次迭代，在处，目标函数的梯度为：
因此，是方程的最优解
（4），初始点
解：函数的梯度方向为
第一次迭代，搜索方向为：
从出发，沿着搜索方向进行一维搜索，得到：
第二次迭代，在处，目标函数的梯度为：
因此，是方程的最优解
7.7证明定理7.4对于正定二次目标函数，采用精确一维搜索地FR法在有限次（m）一维迭代后即终止，且对于所有，下式成立：
（1）
（2）
（3）（）
证明：采用归纳证明法来证明上述三个关系，
（1）当时，，则对等式两侧左乘，则关系（3）成立。当时，关系（1）和（2）成立，因此（3）也成立。
（2）对于，由迭代公式
等式两端左乘A，再加上b，则
其中，
得到，
根据和，
当时，
当时，上式右端各项均为0，
因此有，
再证明关系（1），因为和成立
当时，带入，
当时，根据关系（1）和关系（2），
则，
再证明关系（3），
综上所证，对于，三种关系均成立。