第1页，共26页，星期日，2025年，2月5日最小二乘法1.问题描述考虑如下线性系统：其中，u(k)为系统激励信号，y(k)为系统输出，e(k)为模型噪声。第2页，共26页，星期日，2025年，2月5日系统模型第3页，共26页，星期日，2025年，2月5日其中G(z-1)是系统函数模型，N(z-1)为有色噪声系统模型，e(k)为白噪声v(k)经过系统函数为N(z-1)的系统后的输出。通常第4页，共26页，星期日，2025年，2月5日则系统可表示为设样本和参数集为h(k)为可观测的量，差分方程可写为最小二乘形式第5页，共26页，星期日，2025年，2月5日如何系统噪声e(k)存在的情况下从该方程中正确的解出，即是系统辨识的任务。为了求出，我们面临三大问题：一是输入信号的选择，二是判决准则的选取，三是辨识算法的选择。选择输入为了准确辨识系统参数，我们对输入信号有两大要求，一是信号要能持续的激励系统所有状态，二是信号频带能覆盖系统的频带宽度。除此之外还要求信号有可重复性，不能是不可重复的随机噪声，因此我们通常选择M序列或逆M序列作为输入。第6页，共26页，星期日，2025年，2月5日准则函数本次探讨最小二乘类辨识方法，在此选取准则函数使准则函数的估计值记做，称作参数的最小二乘估计值。令k=1,2,3,……L，可构成线性方程组：第7页，共26页，星期日，2025年，2月5日式中：准则函数相应变为极小化,求得参数的估计值，将使模型更好的预报系统的输出。第8页，共26页，星期日，2025年，2月5日最小二乘法设使得，则有展开上式，并根据以下两个向量微分公式：得正则方程：第9页，共26页，星期日，2025年，2月5日当为正则阵时，有且有所以唯一使得，这种通过极小化式计算的方法称作最小二乘法。第10页，共26页，星期日，2025年，2月5日递推最小二乘法第11页，共26页，星期日，2025年，2月5日第12页，共26页，星期日，2025年，2月5日递推最小二乘法（RLS）步骤如下第13页，共26页，星期日，2025年，2月5日举例设某物理量Y与X满足关系式Y=aX2+bX+c，实验获得一批数据如下表，试辨识模型参数a,b和c。X 1.01 2.03 3.02 4.01 5 6.02 7.03 8.04 9.03 10Y 9.6 4.1 1.3 0.4 0.05 0.1 0.7 1.8 3.8 9.0分析：Y=aX2+bX+c+=[X(k)*X(k)X(k)1]*[abc]+=+第14页，共26页，星期日，2025年，2月5日程序X=[1.01 2.033.024.0156.027.038.049.0310];Y=[9.64.11.30.40.050.1 0.7 1.8 3.8 9.0];%实验输入数据、实验输出数据symsabc%定义待辨识参数theta=[a;b;c];%theta包含待辨识参数a，b，ctheta1=zeros(3,1);%对象参数初始化P=10^6*eye(3);%构造初始P阵fork=1:10%仿真步长范围1到10phi=[X(k)*X(k);X(k);1];%y=aX*X+bX+c=phi*theta%theta=[a；b；c]；phi=[X(k)*X(k);X(k);1]K=P*phi/(1+phi*P*phi);%递推最小二乘法K阵的递推公式theta=theta1+K*(Y(k)-phi*theta1);%theta的递推公式P=(eye(3)-K*phi)*P;%递推最小二乘法P阵的递推公式theta1=theta;%theta的最终估计向量theta2(:,k)=theta;%theta估计向量矩阵