不论是无约束或有约束的优化问题，在实际应用中，要证明一个优化问题是否为凸规划，一般比较困难，有时甚至比求解优化问题本身还要麻烦。尤其对一些工程问题，由于其数学模型的性态都比较复杂，更难实现。因此，在优化设计的求解中，就不必花精力进行求证，而通常是从几个初始点出发，找出几个局部最优解，从中选择目标函数值最好的解。注意：第23页，共51页，星期日，2025年，2月5日一、多元函数的泰勒展开§2-3无约束优化问题的极值条件二元函数：第24页，共51页，星期日，2025年，2月5日多元函数泰勒展开海色矩阵（Hessian）第25页，共51页，星期日，2025年，2月5日二、无约束优化问题的极值条件1.F(x)在处取得极值，其必要条件是:即在极值点处函数的梯度为n维零向量。第26页，共51页，星期日，2025年，2月5日例：在处梯度为但只是双曲抛物面的鞍点，而不是极小点。函数的梯度为零的条件仅为必要的，而不是充分的。则称为f的驻点。定义：设是D的内点，若第27页，共51页，星期日，2025年，2月5日根据函数在点处的泰勒展开式，考虑上述极值必要条件，可得相应的充分条件。为了判断从上述必要条件求得的是否是极值点，需建立极值的充分条件。第28页，共51页，星期日，2025年，2月5日2.处取得极值充分条件第29页，共51页，星期日，2025年，2月5日，..，，各阶主子式均大于零:则海色（Hessian）矩阵是正定的,即海色（Hessian）矩阵负定的，则X*为极大点。各阶主子式负、正相间:则X*为极小点。第30页，共51页，星期日，2025年，2月5日例2-4：求目标函数f（X）=的梯度和Hessian矩阵。解：因为则故Hessian阵为：第31页，共51页，星期日，2025年，2月5日例2-5求函数的极值。解：根据极值的必要条件求驻点得驻点再根据极值的充分条件，判断此点是否为极值点。由于其各阶主子式均大于零，H(x*)为正定矩阵，故X*=[2,4]T为极小点，极小值为F(X*)=-13。第32页，共51页，星期日，2025年，2月5日§2-4有约束优化问题的极值条件不等式约束的多元函数极值的必要条件是著名的库恩--塔克（Kuhn-Tucker）条件，它是非线性优化问题的重要理论1库恩—塔克条件(K-T条件）对于多元函数不等式的约束优化问题：第33页，共51页，星期日，2025年，2月5日K-T条件可阐述为：若是一个局部极小点，则该点的目标函数梯度可表示成诸起作用约束面梯度的线性组合.即(2-17)——在设计点处的起作用约束不等式约束面数；——非负值的乘子，也称为拉格朗日乘子。式中第34页，共51页，星期日，2025年，2月5日Ox1x2极值点处于等值线的中心极值点处于两个约束曲线的交点上x﹡g1(x)＝0g2(x)＝0g3(x)＝0Ox1x2x﹡g1(x)＝0g2(x)＝0第35页，共51页，星期日，2025年，2月5日2有约束问题最优点的几种情况:有作用约束目标函数是凸函数,可行域是凸集，则目标函数等值线与作用约束曲面的切点为最优点，而且是全局最优点。1.无作用约束目标函数是凸函数，可行域是凸集，则最优点是内点。相当于无约束问题的最优点。x(k)为最优点x*的条件：必要条件：充分条件：Hessian矩阵H(x(k))是正定矩阵··X*f(x)·x*第36页，共51页，星期日，2025年，2月5日第1页，共51页，星期日，2025年，2月5日§2-1方向导数与梯度
一、函数的方向导数一个二元函数F(x1,x2)在X0点处的偏导数定义为:分别是函数在点X0处沿坐标轴方向的变化率.第2页，共51页，星期日，2025年，2月5日函数