若四个样本变成：ω1={(0,0)T,(1,1)T}ω2={(0,1)T,(1,0)T}解：取b1=(1,1,1,1)Tc=1W1=X+b1=(0,0,0)Te1=XW1-b1=(-1,-1,-1,-1)T0系统线性不可分C为校正系数,取0＜C≤1在算法进行过程中，应在每一次迭代时，检测ek的值。只要出现ek0，迭代就应立即停止。?x2x111第30页，共48页，星期日，2025年，2月5日六Fisher分类准则现在讨论通过映射投影来降低维数的方法。X空间X=-WTX-W00X∈ω1X=-WTX-W00X∈ω2映射Y空间Y=WTX-W00X∈ω1Y=WTX-W00X∈ω2把X空间各点投影到Y空间得一直线上，维数由2维降为一维。若适当选择W的方向，可以使二类分开。下面我们从数学上寻找最好的投影方向，即寻找最好的变换向量W的问题。w(y)wy1y2x2x1ω1ω2第31页，共48页，星期日，2025年，2月5日投影样本之间的分离性用投影样本之差表示投影样本类内离散度:i=1,2i=1,2第32页，共48页，星期日，2025年，2月5日类间散布矩阵第33页，共48页，星期日，2025年，2月5日上式就是n维x空间向一维y空间的最好投影方向，它实际是多维空间向一维空间的一种映射。其中Sw为类内散布矩阵,Sb为类间散布矩阵第34页，共48页，星期日，2025年，2月5日第1页，共48页，星期日，2025年，2月5日§3-1线性分类器的设计上一章我们讨论了线性判别函数形式为:g(x)=WTX其中X=(X1,X2…Xn)n维特征向量W=(W1,W2…Wn,Wn+1)n维权向量通常通过特征抽取可以获得n维特征向量，因此n维权向量是要求解的。求解权向量的过程就是分类器的训练过程，使用已知类别的有限的学习样本来获得分类器的权向量被称为有监督的分类。第2页，共48页，星期日，2025年，2月5日利用已知类别学习样本来获得权向量的训练过程如下已知x1∈ω1,通过检测调整权向量，最终使x1∈ω1已知x2∈ω2,通过检测调整权向量，最终使x2∈ω2这样就可以通过有限的样本去决定权向量x1x2…….xn1w1w2wnwn+1∑0x∈ω1检测(已知类别)W1X1W2X2WnXnWn+10x∈ω2g(x)=wTx第3页，共48页，星期日，2025年，2月5日利用方程组来求解权向量对二类判别函数g(x)=W1X1+W2X2+W3已知训练集：Xa,Xb,Xc,Xd且当(Xa,Xb)∈W1时g(x)＞0当(Xc,Xd)∈W2时g(x)＜0设Xa=(X1a,X2a)TXb=(X1b,X2b)TXc=(X1c,X2c)TXd=(X1d,X2d)T判别函数可联立成：X1aW1+X2aW2+W3＞0①X1bW1+X2bW2+W3＞0②X1cW1+X2cW2+W3＜0③X1dW1+X2dW2+W3＜0④求出W1,W2,W3第4页，共48页，星期日，2025年，2月5日将③④式正规化，得-X1cW1-X2cW2-W30-X1dW1-X2dW2-W30所以g(x)=WTX0其中W=(