发布时间 : 星期四 文章基于最小二乘法的数据处理问题研究综述更新完毕开始阅读9a0335ebbcd126fff6050b50
假定模型阶次na，nb和nc已知，用广义最小二乘法可以得到无偏一致估计。令
?zf?k??C?z?1?z?k?? （31） ??1??uf?k??C?z?u?k?及
???[a1,a2,?,ana,b1,b2,?,bnb]T??T （32） ???zf?k?1?,?,?zf?k?na?,uf?k?1?,?,uf?k?nb????hf?k???将模型化为最小二乘格式：zf?k??hTf?k???v?k? （33）
由于v(k)是白噪声，所以用最小二乘可以获得参数θ的无偏估计，由于噪声模型C(z-1)未知，还需要用迭代的方法来求得C(z-1)。令
e?k??1v?k? （34） ?1C?z?置
T??k?[c,c,?,c]??e12nc? （35） ?T???e?k?1?,?,?e?k?nc????he?k???这样就把噪声模型也转变为最小二乘格式：
Te?k??he?k??e?v?k? （36）
由于上式中的噪声已为白噪声，所以用最小二乘也可获得参数θ
e的无偏估计，但是数据向量中依然含有不可测的噪声量
???e?k?1?,?,?e?k?nc???，可用相应的估计值来代替，置
T??he?k????ek?1,?,?ek?n?????c?，其中?k <0时，e(k)=0；k >0时，按
照
??Te?k??z?k??h?k?? （37）
计算，式中
h?k?????z?k?1?,?,?z?k?na?,u?k?1?,?,u?k?nb??? （38）
T综上所述，广义最小二乘法可归纳为
??????k????k?1??Kf?k??zf?k??hT?f?k???k?1?????K?k??P?k?1?h?k??hT?k?P?k?1?h?k??1??1fff?f??f?P?k???I?K?k?hT?k??P?k?1?ff?f??f ?????T??e?k???e?k?1??Ke?k???e?k??he?k??e?k?1?????1?Ke?k??Pe?k?1?he?k??heT?k?Pe?k?1?he?k??1????T?Pe?k???I?Ke?k?he?k????Pe?k?1??
4 最小二乘法的发展及对策
最小二乘法(LS)是一种最经典、最基本的，也是应用最广泛的方法。但是最小二乘估计是非一致的，是有偏差的，所以为了克服他的缺陷，而形成了一些以最小二乘法为基础的改进最小二乘法：广义最小二乘法、增量最小二乘法、渐消记忆的最小二乘法以及将一般的最小二乘法与其他方法相结合的方法，有最小二乘两步法(COR- LS)和随机逼近算法等。
广义最小二乘法的基本思想是引入一个白化滤波器，把相关噪声转换为白噪声，基于对观测数据先进行一次滤波处理，然后利用普通最小二乘法对滤波后的数据进行辨识。
递推算法的基本思想是用新估计值对老的估计值进行修正，应用的数据是实时采集的系统输入输出数据，应用递推算法对参数估计值
进行不断修正，以取得更为准确的参数估计值，而且此方法占据计算机存储量小，因此在辨识系统中得到了广泛的应用。
渐消记忆的最小二乘法在对系统模型参数进行辨识时强调新数据的作用，贬低老数据的作用，将遗忘因子λ引入系统中，在实际应用中遗传因子λ的大小对参数估计的精度以及参数估计值跟踪真值的变化的能力都有很大的影响，所以选取合适的遗传因子会显著提高系统的辨识能力。 5 结论
针对经典的最小二乘法存在的一些不足，广义最小二乘法、递推式最小二乘法以及渐消记忆的最小二乘法等的出现解决了其中的一些缺陷，这些改进方法不仅在今天，而且在未来都会有非常广泛的应用前景，此外新的改进型最小二乘法也会在其他学科的发展下涌现，使基于最小二乘法的能适应更多的应用场合，得到更加广泛的应用。
参考文献
[1] 宁纪献,覃发岗. 最小二乘法的论述与证明[J]. 教育论坛, 2015,4 [2]邹乐强. 最小二乘的基本原理[J]. 职校论坛, 2010,2：23 [3] 宗殿瑞. 最小二乘法应用探讨[J]. 青岛化工学报, 1998,9.
[4] 丁峰. 系统辨识(1):辨识导引[J]. 南京信息工程大学学报, 2011,3(1)1-22.
[5]丁克良,沈云中, 欧吉坤. 整体最小二乘法直线拟合[J].辽宁工程技术大学学报,2010,2 [6]胡双红. 最小二乘类辨识方法的比较[J]. 长沙理工大学学报,2012,9
[7] 胡沙. 最小二乘参数估计的递推算法及其C语言实现[J].焦作大学学报，2009,4 [8]仇振安,何汉辉. 基于广义最小二乘法的系统模型辨识及应用[J].计算机仿真学报,2007,10