人工神经网络系统辨识综述

摘 要：当今社会，系统辨识技术的发展逐渐成熟，人工神经网络的系统辨识方法的应用也越来越多，遍及各个领域。首先对神经网络系统辨识方法与经典辨识法进行对比，显示出其优越性，然后再通过对改进后的算法具体加以说明，最后展望了神经网络系统辨识法的发展方向。

关键词：神经网络；系统辨识；系统建模

中图分类号：TP393.17 文献标识码：A 文章编号：1672-7800（2011）03-0134-02



作者简介：茹菲(1983-)，女，陕西宝鸡人，太原理工大学信息工程学院硕士研究生,研究方向为控制理论与控制工程；李铁鹰(1956-)，男，山西太原人，博士，太原理工大学信息工程学院教授，硕士生导师，研究方向为控制理论与控制工程。

0 引言

随着社会的进步,越来越多的实际系统变成了具有不确定性的复杂系统，经典的系统辨识方法在这些系统中应用，体现出以下的不足:

（1）在某些动态系统中,系统的输入常常无法保证，但是最小二乘法的系统辨识法一般要求输入信号已知，且变化较丰富。

（2）在线性系统中，传统的系统辨识方法比在非线性系统辨识效果要好。

（3）不能同时确定系统的结构与参数和往往得不到全局最优解，是传统辨识方法普遍存在的两个缺点。

随着科技的继续发展，基于神经网络的辨识与传统的辨识方法相比较具有以下几个特点:第一，可以省去系统机构建模这一步，不需要建立实际系统的辨识格式；其次，辨识的收敛速度仅依赖于与神经网络本身及其所采用的学习算法，所以可以对本质非线性系统进行辨识;最后可以通过调节神经网络连接权值达到让网络输出逼近系统输出的目的；作为实际系统的辨识模型，神经网络还可用于在线控制。

1 神经网络系统辨识法

1.1 神经网络

人工神经网络迅速发展于20世纪末，并广泛地应用于各个领域，尤其是在模式识别、信号处理、知识工程、专家系统、优化组合、机器人控制等方面。随着神经网络理论本身以及相关理论和相关技术的不断发展，神经网络的应用定将更加深入。

神经网络，包括前向网络和递归动态网络， 将确定某一非线性映射的问题转化为求解优化问题，有一种改进的系统辨识方法就是通过调整网络的权值矩阵来实现这一优化过程。

1.2 辨识原理 

选择一种适合的神经网络模型来逼近实际系统是神经网络用于系统辨识的实质。其辨识有模型、数据和误差准则三大要素。系统辨识实际上是一个最优化问题,由辨识的目的与辨识算法的复杂性等因素决定其优化准则。通过建立系统的依赖于参数的模型,把辨识问题转化为对模型参数的估计问题，是传统的辨识算法。这类算法较成功的应用于线性系统或本质线性系统。神经网络用于系统辩识的一个优点是它不需要预先建立实际系统的辩识格式,它对系统的辩识过程就是直接学习系统的输入输出数据的过程。一般的,基于输出误差的神经网络辩识原理如图1所示。



1.3 人工神经网络的特点

人工神经网络与传统的基于算法的辨识方法相比较，具有以下优点：

（1）神经网络的可调参数反映在网络内部的连接权上,这就可以省去对系统建模这一步骤。

（2）可以对本质非线性系统进行辨识，这是一种非算法式的、由神经网络本身来实现的辨识。

（3）神经网络的本身和其所采用的学习算法是影响辨识的收敛速度的唯一因素，它不依赖待辨识的系统的维数。

（4）通过调节神经元之间的连接权（权值对应于模型参数）可使网络的输出来逼近系统的输出。

（5）神经网络也可用于在线控制。人工神经网络在非线性系统辨识中的应用具有很重要的研究价值以及广泛的应用前景。

2 神经网络系统辨识算法

BP网络(Back Propagation Network)是一种能朝着满足给定的输入/ 输出关系方向自组织的神经网络，称为误差反向传播神经网络,其典型的结构图如图2 所示。



BP网络结构图包括输入层、隐含层、输出层这三部分,各部分之间通过各层节点之间的连接权依次前向连接。神经网络模型在大部分人工神经网络的实际应用中多采用BP网络和它的变化形式,这是前馈型网络的核心部分,同时也体现了人工神经网络最精华的部分。函数逼近、模式识别、分类以及数据压缩是BP 网络的应用主要种类。函数逼近就是指用输入矢量和相应的输出矢量训练一个网络逼近一个函数,以此来实现从输入到输出的任意的非线性映射。 

BP 网络用于函数逼近就是用输入矢量和相应的输出矢量训练一个网络逼近一个函数,即可实现从输入到输出的任意的非线性映射。用于非线性系统辨识的三层BP 神经网络ANN(n2m21) ，假设输入向量为x=(x-0,x-1,…，x-{n-1})+T，中间隐层的输出向量为x′=(x′-0,x′-1,…，x′-{m-1})+T ，网络的输出为y 。记输入层与第二层间的连接权为w-{ij}，阈值为θ-j， 第二层与输出层间的连接权为w-j ，阈值为θ，则每个层神经元的输出满足：

y=f∑m-1[]j=0w-jx′-j-θ（1）

x′-j=f∑n-1[]i=0w-{ij}x-i-θ-j（2）

其中，j=0,1,…，m-1

对于总数为h个样本,按δ学习律,如果第p个样本x+p网络,得到输出y+p,则其总误差为:

E-总=1[]2∑n[]p=1(t+p-y+p)+2（3）

其中t+p为教师值。

故E-总为一个有关权w-{sq}的非线性误差函数。BP 网络的训练过程也就是优化问题{min}wE-总的求解过程。

参考文献：

[1] 何玉斌,李新忠.神经网络控制技术及其应用[M].北京:科学出版社,2000.

[2] K S NARENDRA & K.Parthasarathy，identification and control for dynamical systems using neural networks[J].Networks,1990（1）.

[3] EYKHOFF P.System Identification-Parameter and State Esti2mation[M].John Wiley & Sons,1974.

[4] KRZYZA K A.Nonparamet ric estimation and classification using radial basis function net s and empirical risk minimization [J].IEEE Trans.Neural Networks,1996(2).

[5] 黄真,孔令复,方跃法.并联机器人机构学理论及控制[M].北京:机械工业出版社,1997.

[6] LIPPMAN R P.An introduction to computing with neural net [J]. IEEE ASSP Magazine,1989(2).

[7] HOLLAND J H.Adaptation in Natural and Artificial Systems[M].Chicago:The University of Michigan Press,1975.

[8] MONTANA D J，DAVIS L.Training Feedforward Network Using Genetic Algorithms[C].Int.J.Conf.on AI,1989(5).

[9] SINGHAL S,WU L.Training Feed-forward Networks with the Extended Kalman Algorithms[C].IN:Proc.of the IEEE Int.Conf.on Acoustics ，Speech and Signal Processing,Glasgow,1989.

[10] 闻新,周露,王丹力.MATLAB神经网络应用设计[M].北京:科学出版社,2000.

[11] 杨德.简论非线性系统的神经网络辨识[J].运城学院学报,2005(2).

[12] 徐小平,王峰,胡钢.系统辨识研究的现状[J].自动化技术,2007(5).

[13] NARENDRA K S，PARTHASARATHY K.Identification and cont rolof dynamical system using neural networks[J]. IEEETrans.on Neural Networks,1990(1).

[14] 黄豪彩,黄宜坚,杨冠鲁.基于LM 算法的神经网络系统辨识[J].自动化技术,2003(4).

[15] 王永骥,涂键.神经网络控制[M].北京:机械工业出版社,1998.

[16] 赵弘,周瑞祥,林廷圻.基于Levenberg-Marquardt算法的神经网络监督控制[J].西安交通大学学报,2002(5).

[17] 易继锴,侯媛彬.智能控制技术[M].北京:北京工业大学出版社,1999. 

[18] 李孝安.一种基于遗传算法与进化编码的系统辨识方法[J].控制与决策,1996(3).

[19] 李红星.基于遗传算法的闭环系统辨识方法[J].电气传动,2000(3).

[20] 李茶玲,孙德保.遗传算法在系统辨识中的应用[J].华中理工大学学报,1998(7).

[21] 徐丽娜,李琳琳.遗传算法在非线性系统辨识中的应用研究[J].哈尔滨工业大学学报,1999(2).

[22] 吴广玉.系统辨识与自适应[M].哈尔滨:哈尔滨工业大学出版社,1987.

[23] ZADEH L A.From circuit theory to system theory[J].Proc.IRE,1962(5).

[24] LEEC H，TENGC C.Identification and control of dynamic systems using recurrent fuzzy network [J].IEEE Trans. On Fuzzy Systems,2000(4).

[25] POTHS J C,GIDDENS T D,YADAW S B. The development and evaluation of an improved genetic algorithms based on migration and selection[J]. IEEE Trans. SMC，1994(1).

（责任编辑：余 晓）

相关热词搜索： 神经网络 辨识 综述 系统