基于最小二乘法的系统辨识问题研究综述

基于最小二乘法的系统辨识问题研究综述 摘要对基于最小二乘法的系统辨识方法进行了介绍。首先对系统辨 识概念以及最小二乘法原理进行了介绍，然后根据例子来说明怎样运 用最小二乘法来解决实际辨识问题。而且本文针对最小二乘存在的缺 陷进一步阐述了一些改进型最小二乘法在系统辨识中的应用，最后对 系统辨识的发展趋势做了预测。 关键字系统辨识 最小二乘法 改进型最小二乘法发展趋势 1引言 系统辨识归根到底是一种数学建模的过程，而建模过程中运用的 方法并不唯一，最小二乘法是较早被应用于系统辨识中的一类方法。 1962年，L. A. Zadeh最先提出了系统辨识的定义⑴“辨识就是在输 入和输出数据的基础上，从一组给定的模型类中，确定一个与所测系 统等价的模型。”简单的来说，就是在现有数据的基础上，按照一个 准则在一组模型类中选择一个与提供的数据拟合得最好的模型。而根 据最小二乘法的定义⑵“最小二乘法是一种数学优化技术，它通过 最小化误差的平方和寻找数据的最佳函数匹配。”其基本思想就是让 实测数据和估计数据之间的平方和最小，这恰恰是系统辨识所需要解 决的问题，所以最小二乘法很早就被用来求解辨识中需要的拟合数学 模型。 本文在阐述最小二乘法理论的基础上对于其在系统辨识中的应 用做了介绍，并指出实际应用中存在的不足，列举了几种改进型的最 小二乘算法来改进系统辨识能力，最后给出了系统辨识的发展趋势。 2基于最小二乘法的系统辨识的理论基础及应用 2.1系统辨识的理论基础 从字面上讲，系统辨识System Identification就是识别一个系 统、辨识一个系统国。系统通常是由表征系统输入输出关系的数学模 型描述的，这个模型有其特定的结构和参数。因此，系统辨识包含系 统结构辨识System Structure Identification和参数估计Parameter Estimation. 系统结构或模型结构就是系统数学表达式的形式。对单输入单 输出线性系统而言，模型结构就是系统的阶次Order；对多变量线 性系统而言，模型结构就是系统的能控性结构指数Controllability Structure Index或能观测性结 构指数 Observability Structure Index,系统阶次等于系统的能控性结构指数或能观测性结构指数之 和。对传递函数而言，系统参数就是传递函数分子分母多项式的系数 Coeffi-cient,系统阶次就是传递函数分母多项式的次数Degree; 对状态空间模型而言，系统参数就是状态空间模型的A, B, C, D矩 阵，就是状态向量的维数或矩阵的维数，它等于系统的能控性结构指 数系统阶次或能观测性结构指数之和。 求解系统辨识问题实质上就是找到合适的数学方法来判断系统 的结构以及得到系统参数。 2.2最小二乘法的理论基础 最小二乘法作为一种传统的参数估计方法，早已经被大家所了 解。然而大多同学对最小二乘法的认识都比较模糊，仅仅把最小二 乘法理解为简单的线性参数估计。事实上，最小二乘法在参数估计、 系统辨识以及预测、预报等众多领域都有着广泛的应用。特别是针对 动态系统辨识的方法有很多，但其中应用最广泛，辨识效果良好的就 是最小二乘辨识方法，研究最小二乘法在系统辨识中的应用具有现实 的、广泛的意义。因此要用最小二乘法解决实际的辨识问题，首先要 对最小二乘法有深刻理解。 下面是一般的最小二乘法问题实系数线性方程组 311X1312X2,,,ainXn-biO 321X1822X2 * * * a2nXn-b20 2.1 amiXiam2x24-amnxn-bm 0 方程组可能无解。即可能不存在一组实数X.X2,乂使 m SH 时2 2 02.2 il 恒成立。因此我们转而求其次，设法找到实数组X], X2,，Xs使误 差的平方和最小，这样的Xi，X2，，Xs称为方程组的最小二乘解， 这样问题就叫最小二乘法问题。 2.3最小二乘法处理辨识问题的应用举例 考虑如下线性系统 z* aR。-1 zk-na bxii -1 bnu\k-nb ek 1 其中，。佝为系统激励信号，y佝为系统输出,ek为模型噪声。 其系统模型如图1所不 图1SIS0的系统模型结构图 其中Gfz亏是系统函数模型，N尸为有色噪声系统模型，e佝为白噪声v佝经过系统函数 为Mz方的系统后的输出。通常 式中 A（z |） 1 aR 1 a2z - t„ z n 3 （尸）九/ b2z zHb （7（广）1 平-1 3-2 ... C/i z，c 一（4） O（zT） dRi d2z bnj zd 一 ，、3（尸）。（尸） 则系统可表不为z（幻一 u（k） v（幻（5） 7 A（z-） 7 C（L） 7 设样本和参数集为 /（*） ［『（*-1） , - z（k - 2） -z（*-〃）， u（k- 〃）］T T（6） 。......,,机*2,......,bn］ 竹幻为可观测的量，差分方程可写为最小二乘形式 心顼（k）O e（k）（7） 如何在系统噪声e存在的情况下从该方程中正确的解出0 ,即是系统辨识的任务。 为了求出。，我们面临三大问题一是输入信号的选择，二是判决准则的选取，三是辨识算法的选择，下面一一探讨。 .选择输入 为了准确辨识系统参数，我们对输入信号有两大要求，一是信号要能持续的激励系统所 有状态，二是信号频带能覆盖系统的频带宽度。除此之外还要求信号有可重复性，不能是不 可重复的随机噪声，因此我们通常选择M序列或逆M序列作为输入。 二.准则函数 因为本文主要探讨最小二乘类辨识方法，在此选取准则函数 00c 009 卜（幻矿住泌］（8） 使准则函数J（。） min的。估计值记做0S，称作参数。的最小二乘估计值。 在式（7）中，令kl,2,3,......L,可构成线性方程组 温 k H；k9 eLk 式中 el zl z2 壮） 〃。 1 -z2 eL -zL-l - -zL-nJ mL-1 - uL-nb 准则函数相应变为 碓丈[e可[z 住 W9]2zl 心匕_瞬11 极小化J（。），求得参数0的估计值，将使模型更好的预报系统的输出。 三.最小二乘辨识算法 设取使得八。） min， 则有 eLS 京 Zl - H/ - H/ 0 展开上式，并根据以下两个向量微分公式 d_ dx x 得正则方程14 当 为正则阵时，有eLS H[HL