导语:如何才能写好一篇神经网络的鲁棒性,这就需要搜集整理更多的资料和文献,欢迎阅读由公务员之家整理的十篇范文,供你借鉴。
1.引言
BP神经网络具有良好的自学习、自适应能力和鲁棒性,可以用来处理高维、非线性、强耦合和不确定性的复杂控制系统。本文结合BP神经网络的优点和传统PID控制的优势,对PID控制器进行优化,使其具有很强的自适应性和鲁棒性。通过对直流电机调速系统仿真,结果表明,这种方法是有效的。
2.PID控制原理
PID是工业生产中最常用的一种控制方式,PID调节器是一种线性调节器,它将给定值r(t)与实际输出值c(t)的偏差的比例(P)、积分(I)、微(D)通过线性组合构成控制量,对控制对象进行控制。传统的PID控制系统原理框图如图2.1所示,系统主要由PID控制器和被控对象组成。它根据给定值rin(t)与实际输出值yout(t)构成控制偏差额e(t):
图2.1为PID控制系统原理框图。
3.基于BP神经网络的PID整定原理
PID控制要取得好的控制效果,就必须通过调整好比例、积分和微分三种控制作用在形成控制量中相互配合又相互制约的关系,这种关系不一定是简单的“线性组合”,而是从变化无穷的非线性组合中找出最佳的关系[2]。BP神经网络具有良好的自学习、自适应能力和鲁棒性,将PID和BP神经网络结合起来,建立参数自学习的PID控制器。其结构如图3.1所示。
经典增量式数字PID的控制算式为:
式中,是与、、、u(k-1)、y(k)等有关的非线性函数,可以用BP神经网络通过训练和学习找到这样一个最佳控制规律。
假设BP神经网络NN是一个三层BP网络,其结构如图3.4所示,有M个输入节点、Q个隐层节点、三个输出节点。输出节点分别对应控制器的三个可调参数,,。其激发函数为非负的Sigmoid函数。而隐含层的激发函数可取正负对称的Sigmoid函数。
神经网络的前向算法如下:设PID神经网络有M个输入,3个输出(,,),上标(1)(2)(3)分别代表输入层、隐含层和输出层,该PID神经网络在任意采样时刻k的前向计算公式(3-3)如下所述:
基于BP神经网络PID控制算法可以归纳为:①选定BPNN的结构,即选定输入层节点数M和隐含层节点数Q,并给出各层加权系数的初值,选定学习速率和惯性系数;②采样得到和,计算;③对进行归一化处理,作为BPNN的输入;④计算BPNN的各层神经元的输入和输出,输出层的输出即为PID控制器的3个参数,,;⑤计算PID控制器的输出,参与控制和计算;⑥计算修正输出层的加权系数;⑦计算修正隐含层的加权系数:⑧置,返回②[3]。
4.仿真实例
从上面的仿真结果中,进行比较分析后,可以得出常规PID控制系统BP神经网络PID控制系统两者对于在零时刻加幅度为1的阶跃信号,它们有着不同响应曲线。为了便于比较,可以将两者的响应结果列表,见表4.1。
5.结论
参考文献
[1]王敬志,任开春,胡斌.基于BP神经网络整定的PID控制[J].工业控制计算机,2011(3):72-75.
关键词:人工神经网络BP算法改进BP算法倒立摆小车
倒立摆系统是时变的、非线性、多变量和自然不稳定系统,在控制过程中,它能有效地反映可镇定性、鲁棒性、随动性和跟踪等许多控制中的关键问题,是检验各种控制理论的理想模型。人工神经网络BP算法,在多变量输入情况下具有精度高、实现快、算法简单、鲁棒性好等优点,从而满足了系统的要求[1]。
2.人工神经网络BP算法简介
人工神经网络(ANN)由于具有信息的分布存储、并行处理和自学习能力等优点,在信息处理、模式识别、智能控制等领域得到了越来越广泛的应用。近年来,已有多种ANN模型被提出研究,80%―90%的人工神经网络模型是采用BP网络或其改进形式,它是前向网络的核心部分,体现了网络最精华的部分[2]。标准的BP网络是根据Widrow―Hoff规则,采用梯度下降算法,主要由信息信号的正向传播和误差信号的反向传播两部分组成。
LM优化方法权重和阈值更新公式[4]为:
其中J为误差对权值微分的雅可比矩阵,e为误差向量,μ为一个标量。依赖于μ的幅值,该方法光滑地在两种极端情况之间变化,即牛顿法(当μ0)和著名的最陡下降法(当μ∞)。
3.神经网络控制器设计
3.1训练样本的选取
BP神经网络在未经任何训练的情况下,不能作为系统控制器使用。在实际仿真过程中,我们选择极点配置控制为BP网络的教师进行学习,经过试探训练,样本数为2000时结果较为合理,此时样本数据能够反映系统的基本特征,可以得到预期的仿真结果。极点配置-2+5i-2-5i-5+4i-5-4i;A=[0100;0-0.08831670.6293170;0001;0-0.23565527.82850];B=[00.88316702.35655]’;C=[1000;0100;0010;0001];D=[0000]’;p=[-2+5i-2-5i-5+4i-5-4i];K=acker(A,B,p)。
3.2BP网络结构
BP网络设计时,增加层数主要可以进一步降低误差,提高精度,但却使网络复杂化。而增加隐含层的神经元数也可提高误差精度,且训练效果更易观察和调整。为了使误差尽可能小,我们要合理选择初始权重和偏置,如果太大就容易陷入饱和区,导致停顿,一般应选为均匀分布的小数,介于(-1,1)。
4.BP网络训练结果
图1分别给出了倒立摆小车位移、摆角和控制力的BP算法与极点配置算法仿真曲线对比图,仿真结果表明:相较极点配置,BP算法精度高、实现快、鲁棒性好,倒立摆小车在BP算法下只需2.5s左右就可以达到所设定精度的稳定效果,且超调量很小,满足了系统的要求。
通过对人工神经网络BP算法的分析,笔者进行了倒立摆小车改进BP算法的控制系统仿真实验。仿真表明该改进BP算法收敛性好、计算量小,尤其在非线性和鲁棒控制等领域具有良好的应用前景。BP神经网络从理论上可以逼近任意非线性函数,所以它特别适合控制像倒立摆这样的严重非线性、多变量系统。
参考文献:
[1]于秀芬,段海滨,龚华军.基于人工神经网络BP算法的倒立摆控制研究[J].测控技术,2003,22(3):41-44.
[2]张志华,朱章森,李儒兵.几种修正的自适应神经网络学习算法及其应用[J].地球科学,1998,23(2):179-182.
[3]苏高利,邓芳萍.论基于Matlab语言的BP神经网络的改进算法[J].科技通报,2003,19(2):130-135.
人工神经网络是近年来迅猛发展的前沿课题,它对突破现有科学技术的瓶颈起到重大的作用。本文剖析了人工神经网络的特征、模型结构以及未来的发展趋势。
【关键词】人工神经网络神经元矩阵
1人工神经网络概述
人工神经网络(ANN)是一种用计算机网络系统模拟生物神经网络的智能神经系统,它是在现代神经生物学研究成果的基础上发展起来的,模拟人脑信息处理机制的一种网络系统,它不但具有处理数值数据的计算能力,而且还具有处理知识的学习、联想和记忆能力。
人工神经网络模拟了大脑神经元的组织方式,反映了人脑的一些基本功能,为研究人工智能开辟了新的途径。它具有以下基本特征:
1.1并行分布性
因为人工神经网络中的神经元排列并不是杂乱无章的,往往是以一种有规律的序列排列,这种结构非常适合并行计算。同时如果将每一个神经元看作是一个基本的处理单元,则整个系统可以是一个分布式处理系统,使得计算快速。
1.2可学习性和自适应性
一个相对很小的人工神经网络可存储大量的专家知识,并能根据学习算法,或利用指导系统模拟现实环境(称为有教师学习),或对输入进行自适应学习(称为无教师学习),可以处理不确定或不知道的事情,不断主动学习,不断完善知识的存储。
(3)鲁棒性和容错性
由于采用大量的神经元及其相互连接,具有联想映射与联想记忆能力,容错性保证网络将不完整的、畸变的输入样本恢复成完整的原型,鲁棒性使得网络中的神经元或突触遭到破坏时网络仍然具有学习和记忆能力,不会对整体系统带来严重的影响。
1.3泛化能力
人工神经网络是大规模的非线性系统,提供了系统协同和自组织的潜力,它能充分逼近任意复杂的非线性关系。如果输入发生较小变化,则输出能够保持相当小的差距。
1.4信息综合能力
任何知识规则都可以通过对范例的学习存储于同一个神经网络的各连接权值中,能同时处理定量和定性的信息,适用于处理复杂非线性和不确定对象。
2人工神经网络模型
神经网络是在对人脑思维方式研究的基础上,将其抽象模拟反映人脑基本功能的一种并行处理连接网络。神经元是神经网络的基本处理单元。
在神经网络的发展过程中,从不同角度对神经网络进行了不同层次的描述和模拟,提出了各种各样的神经网络模型,其中最具有代表性的神经网络模型有:感知器、线性神经网络、BP网络、自组织网络、径向基函数网络、反馈神经网络等等。
3神经元矩阵
神经元矩阵是神经网络模型的一种新构想,是专门为神经网络打造的一个矩阵,它符合神经元的一切特征。
神经元矩阵采用矩阵形式,它可为n维向量组成。引入向量触头和信使粒的概念,向量触头可生长,即长度可变,方向可变,信使粒可“游荡”在矩阵中,建立各种联系。如图1即是神经元矩阵模型
(1)容器可产生一种无形的约束力,使系统得以形成,容器不是全封闭的,从而保证系统与外界的沟通和交互;各向量间可用相互作用的力来联系,而各个信使粒则受控于容器、中空向量以及其它的信使粒。各神经元之间自主交互,神经元矩阵是一种多层次的管理,即一层管理一层。系统具有明显的层级制和分块制,每层每块均独立且协同工作,即每层每块均含组织和自组织因素。
(2)向量触头是中空的,信使粒可以通过向量或存储于向量中,所以又称为中空向量。向量存储了信使粒后,可以吸引更多的信使粒在附近,或使邻近向量转向、伸长,进而形成相对稳定的信息通路。
(3)当两条或更多的信息通路汇集时,可能伴随着通路的增强、合并,以及信使粒的聚集、交换,这是神经元矩阵运算的一种主要形式。通路的形成过程,也就是是神经元矩阵分块、分层、形成联接的过程,也为矩阵系统宏观管理、层级控制的实现奠定了基础。
神经元矩阵亦是一种具有生物网络特征的数学模型,综合了数学上矩阵和向量等重要概念,是一种立体的矩阵结构。尤其是将矩阵的分块特性和向量的指向特征结合起来,更好的体现了神经网络的整体性和单元独立性,系统的组织和自组织特征也更为凸显。信使粒以“点”的数学概念,增强了系统的信息特征,尤其是增强了矩阵的存储和运算功能。
4人工神经网络的发展趋势
人工神经网络是边缘叉科学,它涉及计算机、人工智能、自动化、生理学等多个学科领域,研究它的发展具有非常重要意义。针对神经网络的社会需求以及存在的问题,今后神经网络的研究趋势主要侧重以下几个方面。
4.1增强对智能和机器关系问题的认识
人脑是一个结构异常复杂的信息系统,我们所知道的唯一智能系统,随着信息论、控制论、计算机科学、生命科学的发展,人们越来越惊异于大脑的奇妙。对人脑智能化实现的研究,是神经网络研究今后的需要增强的地发展方向。
4.2发展神经计算和进化计算的理论及应用
利用神经科学理论的研究成果,用数理方法探索智能水平更高的人工神经网络模型,深入研究网络的算法和性能,使离散符号计算、神经计算和进化计算相互促进,开发新的网络数理理论。
4.3扩大神经元芯片和神经网络结构的作用
神经网络结构体现了结构和算法的统一,是硬件和软件的混合体,神经元矩阵即是如此。人工神经网络既可以用传统计算机来模拟,也可以用集成电路芯片组成神经计算机,甚至还可以生物芯片方式实现,因此研制电子神经网络计算机潜力巨大。如何让传统的计算机、人工智能技术和神经网络计算机相融合也是前沿课题,具有十分诱人的前景。
4.4促进信息科学和生命科学的相互融合
信息科学与生命科学的相互交叉、相互促进、相互渗透是现代科学的一个显著特点。神经网络与各种智能处理方法有机结合具有很大的发展前景,如与专家系统、模糊逻辑、遗传算法、小波分析等相结合,取长补短,可以获得更好的应用效果。
[1]钟珞.饶文碧.邹承明著.人工神经网络及其融合应用技术.科学出版社.
关键词:神经网络模糊控制PID控制
0引言
随着我国市场经济的迅速发展,水对人民生活与工业生产的影响日益加强,与此同时用户对供水系统可靠性和供水质量的要求也越来越高;另外,资源的紧缺和人们环保意识的增加,如何把先进的自动化技术、控制技术、通讯及网络技术等应用到供水领域,成为对供水系统的新要求,因此无论是在性能方面考虑还是在节能方面考虑,供水系统都需要巨大的变革。
1传统控制策略
与传统PID控制相比,模糊控制具有很多优点。模糊控制是建立在模糊数学基础上的一种智能控制技术,可以达到传统控制策略无法达到的效果。模糊控制能较好得跟随系统状态的变化动态调整自身控制参数,不需要建立精确的控制对象模型,因而在实际上的应用越来越广泛。
但是作为一门较为新型的控制科学,还没有系统的方法来指导设计参数精良的模糊控制器。模糊控制器控制规则的确定以及其可调节性是对其控制效果影响最大的一方面。尤其是控制规则的合理制定是模糊控制中的重要部分。目前存在的主要问题是在建立模糊控制规则时要考虑若干参数的选择是否合适,恰当的选择参数是非常重要的。如在供水系统的水压控制中,系统误差和误差变化率的动态范围需要反复多次整定以满足控制需要。
尽管模糊推理系统的设计(隶属度函数及模糊规则的建立)不主要依靠对象的模型,但是它却相当依靠专家或操作人员的经验和知识。若缺乏这样的经验和知识,则很难期望它能够得到满意的控制效果。神经网络的出现很好的弥补了这一缺陷。神经网络系统的一大特点就是其自学习功能,将这种自学习的方法应用于对模糊特征的分析与建模上,产生了自适应的神经网络技术。这种自适应的神经网络技术对于模糊系统的模型建立是非常有效的工具。而自适应神经模糊系统就是基于数据的建模方法,该系统中的模糊隶属度函数及模糊规则是通过对大量已知数据的学习得到的,而不是基于经验或直觉任意给定的,这对于那些特性还不被人们所完全了解或者特性非常复杂的系统尤为重要。
神经网络可以与模糊控制相结合组成神经网络模糊控制,两者各有所长,神经网络能够通过给定的经验集学习并生成映射规则,但其规则不可见;模糊控制制定的规则虽然可见,但是其自学习能力欠缺,导致其规则的动态调整不足。因此有必要将上述两点结合。
2新型控制策略
由于供水系统的非线性、大惯性及纯滞后性等特点,很显然单纯依靠PID、模糊控制和神经网络控制都不能实现很好的控制效果。因此可以考虑应用一种综合的控制策略以实现对供水系统的良好控制。基于此本文提出了一种新型控制策略――神经模糊PID控制算法,该算法可以综合以上各算法的优点,它不仅具有神经网络控制的自学习自组织能力,还具有模糊控制的鲁棒性强、适应性强的优点,另外还拥有PID控制的实现简单方便等优点,优于以往的算法。
如图显示了神经网络模糊PID控制器的结构框图,该控制器是由三部分组成:
①神经网络控制器:控制模糊规则的动态调整,通过神经网络的自学习,使模糊规则的生成转变为加权系数的确定和调节。根据供水系统的运行状态,调节PID控制器参数,使供水系统最终达到最优控制。
②模糊控制器:对系统的输入输出变量进行模糊化和归一化运算。这些运算的意义是鉴于模糊控制的强鲁棒性和非线性控制作用,对输入到神经网络的模糊规则进行预处理,避免了神经网络采用sigmoid激活函数时,由于输入过大而导致输出饱和。
③传统PID控制器:直接对供水系统的控制过程进行闭环控制,并且三个参数KP、KI、KD实行在线调节,使控制作用时刻跟踪系统的变化。
以上过程简要说来就是使输出层神经元的输出状态与PID控制器的KP、KI、KD参数相对应,这样可以通过神经网络的自学习能力实现加权系数调整,进而使其稳定状态与PID的最优控制相对应,最终利用PID控制器的输出u来实现对供水系统的水压的控制。
参考文献:
[1]刘萍丽.交流变频恒压供水控制器的设计.大连海事大学硕士学位论文.2005.
[2]谢静,韦力.新型恒压供水系统[J].应用能源技术,11,2010:42-45.
作者简介:
谢静(1968-),女,陕西省咸阳市人,讲师,硕士,研究方向:电工电子、控制工程理论及应用
关键词:模糊神经网络;字符识别;角点;连通域
印刷体字符识别技术具有极大的实用价值,被广泛应用于大量文报资料、财务票据、文案扫描等文件处理领域[1]。它采用模式识别方法,将通过光学扫描输入得到的印刷品图像,转化为计算机能够处理的电子文档,其技术衡量指标包括识别率、识别速度、版面理解正确率及版面还原满意度四个方面[2]。
近年来,以模糊逻辑、神经网络与遗传算法为代表的人工智能这一新兴学科以其强大的学习功能在字符识别领域得到了广泛的应用。其中,模糊控制常用于少量字符情况下,它具有不依赖被控对象的精确模型、鲁棒性强、算法简明易懂等特点,但是其规则库难于设计,学习功能差;神经网络可以用于大规模字符识别,它具有能够逼近任意非线性函数关系的能力和比较方便的学习手段等特点[3,4],但其参数不易收敛,推理功能差。而模糊神经网络集两者优势于一体,具有高鲁棒性和高度非线性学习能力,能够准确、快速的对已有数据进行学习,并在一定程度上提高了字符识别效率。本文利用模糊神经网络,采用角点定位和连通域提取等技术,设计了一套印刷体字符识别的新方法。
1FNN结构和学习算法
FNN结构如图1所示,第一层为输入层,该层的各个结点直接于输入图像向量的各分量x1连接,它起着将输入值x=[x1x2…xn]T传送到下一层的作用,该层结点数N1=n;第二层每个结点代表一个模糊语言变量值,如PB,NS等。它的作用是计算各输入分量属于各语言变量值模糊集合的隶属度u,本文的隶属度函数采用最常用的高斯函数,该层结点数N2=m1+m2+…mn;第三层的每个结点代表一条模糊规则,它的作用是用来匹配模糊规则的前件,计算出每条的适用度,即ai=min{ui1,ui1,ui2…uin},对于给定的输入,只有在输入点附近的那些语言变量值才有较大的隶属度值,远离输入点的语言变量值的隶属度很小或者是0,该层结点数为m;第四层用于归一化计算,其结点数与第三层相同;第五层是输出层,实现清晰化计算,其yi=wi1a1+wi2a2+…wirar,i=1,2,..r。
图1
该网络学习方法与BP反向传播网络训练方法类似,基本步骤为:①初始化网络的随机权值wi;②计算结果与期望输出向量的误差;③按a=0.7的比例学习因数调整第五层神经元的权重,以减少与期望的误差;④将误差返回到上层的每个神经元;⑤重复③④调整每个神经元的权重,直到网络满足要求为止。
2字符特征提取
图2为系统流程图,在图像采集后,需要将图像规则化,这通过滤波、二值化、平移、旋转等操作来实现。图像滤波方法很多,本文采用常用的平滑滤波;而旋转变换则需要判断出图像的角度。一般印刷品具有规则的几何形状,故在标准平面坐标下,根据图像四个角之间相对距离的不变性,经过旋转后的图像必与水平坐标呈某一角度[5],故可以检测出图像的四个角作为角点,计算出角点间连线与水平坐标的夹角,进而将待检测图像及标准图像恢复到水平位置,即可做进一步的单个字符提取,按照正确的角度去识别印刷品上的内容。
角点是二维图像亮度变化剧烈的点或图像边缘曲线上曲率极大值的点,通过对待检测图像求其二次梯度图,可知其每个象素点的灰度变化剧烈程度,进而获得图像四个角的坐标值。然后,通过角点坐标,我们可以计算出图像的倾斜角度,则角度旋转后可将图像转化为与标准模板相同的角度。
下一步就是提取单个字符并识别,本文采用连通域分析法进行字符提取。
象素的连通域是一个基本概念,它能够对数字图像区域和边界等概念进行简化。当两个象素相邻并且象素值满足一定的相似性准则,则这两个象素连通,依据具体范围需要,一般分为4邻接连通域,8邻接连通域和m连接连通域。本实验是在已知字符大小的情况下,将规定的、大小合理的提取线框从左、上到右、下进行逐行移动,依据各种标点符号的类型,汉字的上下、左右等构成方式,把规定合理范围内最相近连通域结合,视为一个字符。为了防止产品印刷过程中漏印、飞墨、针孔、刮擦等情况出现,我们又针对不同的连通域使用不同的图像处理方法,比如:为防止漏印,将4连接连通域和8连接连通域结合使用,减少漏印象素的影响;为防止飞墨,将完全连通域取中值,以恢复其合理的结构。
3仿真研究
本文仿真软件使用MatlabR2010b,图像采集设备为工业摄像头。模糊神经网络输入为上述规定方框的象素值,输出为人工设定的字符标号,比如:0表示阿拉伯数字‘0’,55表示汉字‘人’字,80表示英文字母‘B’。
该系统采用监督学习方法,依据1、2所述原理,第一步为训练阶段,采集标准印刷品图像上面300个常见字符作为训练数据,对所建模糊神经网络进行训练。第二步是学习测试阶段,将作为训练的印刷品作为测试样本,其学习准确率为98%,高于单独使用神经网络(92%);第三步是实际测试阶段,将其他类似印刷品字符作为测试数据,得出的字符识别准确率是86.53%,高于单独使用神经网络(74%)。
4结论
本文利用模糊神经网络,使用角点定位和连通域分析等技术,建立了一个印刷品字符识别器。实验结果表明,相对于单纯学习算法,该模糊神经网络具有很好的学习能力和很强的鲁棒性,能够很好应用于印刷品字符识别领域。未来工作可放在改进学习算法和在字符大小不同情况下的识别两个方面。
图2
[1]李果.自动印刷质量检测技术及系统综述[J].印刷质量与标准化,2011.
[2]钟辉.彩色印刷品图像缺陷自动检测系统算法的研究[D].吉林大学,2007
[3]赵晓霞.一种粗糙模糊神经网络识别器及其应用[J].中北大学学报(自然科学版),2009
[4]周泽华,胡学友等.基于神经网络的印刷体数字字符的识别[J].自动化与仪器仪表,2009
[5]王诗琴,程耀瑜等.等基于角点定位的印刷品缺陷监测[J].信号与系统,2011
作者简介
关键词河流,人工神经网络,水质,GaussNewton算法
1.前言
2.网络结构和数据预处理
采用BPANN网络,网络分一层输入层、一层输出层和几层隐含层组成。同一层之间的神经元之间没有联系,相邻两层的神经元之间通过连接权值和激活函数进行连接。在训练的过程中,通过不断调节连接权值来使网络的仿真结果逐渐接近期望值。本文采用4层的网络结构,两层隐含层都是4个神经元节点,输出层只有一个节点,代表评价结果,输入层5个节点,代表5个评价参数。
评价标准选《国家地表水环境标准》(GB3838-2002),训练样本直接由该标准生成。输出层和输入层进行线性归一化处理。
3.GaussNewton算法
针对传统BPANN算法的收敛速度慢,鲁棒性弱,容易陷入局部极小值的缺点,采用了改进的算法Gauss-ANN算法。激活函数采用sigmoid函数,层与层之间的连接权值和阈值随着每次的训练修正出新值。每次训练用Gauss-ANN方法计算出权值和阈值的修正值。
4.结果
为了验证Gauss-Newton算法的性能,将它与传统BP算法进行比较。使用生成的训练样本进行训练,两种算法各训练10次,每次训练最多迭代200000次,网络误差函数为所有训练样本误差的平方和。误差为3.0的时候认为网络收敛。表1为训练过程对比,表2为水质的评价结果。从结果看,水质都在地表水环境质量标准里面的1类水水平。
表1两种算法训练和评价结果比较
传统BP算法RPROP算法
迭代次数20000022700
误差12.256.0
收敛次数13
训练样本准确率(%)75.192.5
验证样本准确率(%)74.291.2
表2评价结果
NH3-NTPCODBOD评价结果
断面I0.0020.03431.01.22
断面II0.0020.02041.01.17
断面III0.0020.01221.01.13
5.建议
(1)使用的训练算法,使神经网络的收敛速度加快,鲁棒性加强,适合用在水质评价工作。
关键词蚁群优化算法神经网络信息素分布函数
中图分类号:TH183文献标志码:A
20世纪90年代初,意大利学者Dorigo、Maniezzo首先提出了一种新的模拟进化算法―蚁群算法,基本的蚁群优化算法,主要用于离散的参数优化问题,并已经成功的解决了TSP,VRP,QAP,JSP等一些列困难的组合优化问题。而神经网络的的训练是典型的连续优化问题,本文在分析基本的蚁群优化算法特点的基础上,提出一种新的信息素分布方式及其概率分布函数,将蚁群算法成功的延伸到连续优化的范畴,并且建立了蚁群优化算法训练神经网络的基本模型,克服了传统BP算法的不足,同时使得该算法同时具有蚁群算法的快速全局寻优能力和神经网络的广泛映射能力。
一、改进的蚁群算法训练神经网络
(一)优化模型。
常规的神经网络是属于连续性优化的范畴,其优化的目的是从每一个的参数的取值范围中选取一个具体的值,使得神经网络的输出误差,满足误差条件。本文用于连续优化的模型与组合优化相似,只是其解空间从离散变量变成了连续变量的组合。图1比较直观地表达了蚂蚁觅食时路径的选择。
其中m表示蚂蚁的个数,依次从n个连续的取值范围内选取一个值,组成自己的解Sj,其中Xji表示蚂蚁在个元素的取值范围内所选取的具体值。每一个蚂蚁在信息素的影响作用下,依照概率原则,构建一组的完整的解。通过蚂蚁间的团体协作,构建一个全局最优解。
(二)改进的蚁群优化算法。
1、信息素的分布。理想化的状态下,蚂蚁对信息素的感知力不受左右两侧信息素浓度的影响,但在实际生活中,这种影响是无法避免的,并且路径两侧的蚂蚁对该信息素的感知会随着距离的增大而减弱,而且关于信息素的散发点是对称的。在此模型中考虑这种因素,可以克服常规蚁群算法易陷入局部最优,以及解空间搜索不够的缺点。
通过比较不难发现,这种信息素的分布类似于正态分布,因此可以选择用正态分布函数来表达信息素的分布函数:
(1)
其中为随即变量的方差,可以通过控制的大小来控制该路径上信息素对周围区域的影响程度。图2比较形象的表达了信息素的分布形状与的关系:
u=0,分别取1/2,1,2。
正态分布函数只是决定了信息的分布形状,反映了某一路径上的信息素对两侧各路径上蚂蚁的影响,蚂蚁在选择路径时会根据解的质量散发出不同浓度的信息素,依据神经网络的优化特点,这里采用输出误差来描述解的质量的比较合适,即释放出的信息素与解的误差成反比,可以得出第j只蚂蚁在所选取的路径上所散发的信息素为:
(2)
上式中,h为一个常数;t为样本的数量;E(l)为输出误差。因为所得到的最优解是针对所有样本的,因此输出误差应取为所有样本的误差绝对值之和。将上式中信息素分布的峰值与函数的形状结合,可得到第j只蚂蚁在第i参数上散发的信息素浓度公式为:
(3)
式中,Xji为第j只蚂蚁在第i个参数的取值范围内选取的具体值。
每一只都会在自己所选取的待优化的参数上散发信息素,所有的蚂蚁散发完信息素之后,对每一个参数在其整个取值范围内进行求和,可以得出每一个参数上的信息素浓度分布函数:
(4)
式中,kj为蚂蚁所选取的解的加权系数,该解的质量越高,即最终输出误差越小,则加权系数的值就越大。
2、信息素概率分布函数在蚂蚁选取路径的过程中,每一个参数被选取的几率与该参数上的信息素浓度有关,信息素浓度越大,则被选取的概率越大,反之,则越小,根据上文得出的公式,蚂蚁按照一下概率分布函数,依次选择每一个参数的具体值:(5)
该式中,Ximin与Ximax分别为待选取参数i在其取值范围内的上,下两个极值。
(三)优化算法的流程。
用改进后的蚁群算法优化神经网络的大致过程如下:
(1)建立前向型的神经网络模型,要包括神经网络的层数,每一层的节点数,和每一个待优化的权值的取值范围以及蚂蚁样本;(2)在算法开始,蚂蚁们没有信息素的指导,从各个参数的取值范围内随机的选取一个具体值,从而构建去一条路径;(3)当所有的蚂蚁完成了解的构建之后,输入样本根据式(4)来更新各路径上信息素,并初始化所有蚂蚁的路径;(4)根据公式(5)计算出所有参数的概率分布函数,所有蚂蚁根据该函数,依次从n个参数各自的取值范围内选取一个具体的值,构建出一个完整的解;
重复执行步骤(3)~(5),直到最终输出误差满足终止条件。
二、实验验证及结果分析
为了更加直观的验证该算法的有效性,在这里我们用已知非线性函数y=3x2e-x对算法进行验证,而神经网络的结构,我们采用三层前向式神经网络,共包括输入层,隐含层,输出层,三者各有1,10,1个节点。
在此实例中,我们利用上述函数表达式,在[0,5]内随机选取50个值作为输入样本,利用该函数在样本上的理论输出值作为输出样本,以该样本的理论输出值与神经网络的实际输出值之差的绝对值,作为需要优化的目标函数。
在这里,输出层的激励函数采用线性函数:
F(x)=x
隐含层的激励函数采用Sigmoid函数:
F(x)=(1-e-x)/(1+e-x)
因此,待优化的权值共有31个,其取值范围为[-2,2]。
在此实例中,蚂蚁的个数设定为31个,经过蚂蚁间的协作寻优,对神经网络的权值不断优化,样本的平均误差很快达到了0.00033。
通过该实例可以总结出,只要有足够多可以利用的,并且具有代表性的样本,该改进后的算法可以用来表达任何的非线性函数。同时,也可以通过修改蚂蚁的个数和样本的数量来控制该算法的鲁棒性跟其收敛速度,蚂蚁与样本的数量越大,该算法的鲁棒性就越强,但收敛速度就比较慢;反之,蚂蚁样本的数量越小,该算法的鲁棒性就越差,但是收敛速度较快。
三、结论
1、本文针对传统的蚁群优化算法主要用于组合优化的特点,将它进行了改进,将离散的信息素矩阵与概率矩阵延伸为连续的信息素分布函数与信息素概率分布函数,使得该算法可以应用至连续优化的范畴,与其他算法相比,该优化算法简单易懂,容易理解。
2、利用改进后的蚁群算法来训练神经网络的权值,并给出该算法的具体步骤,用实例证明了该算法的可行性与有效性。
3、该算法克服了传统神经网络算法自身的不足,不仅使其具有神经网络的广泛映射能力,还具有了蚁群算法的快速全局寻优能力。
(作者:兰州交通大学机电工程学院在读硕士研究生,研究方向:虚拟仪器,智能交通系统)
[1]DorigoM,GambardellaLM.Antcolonysystem:acooperativelearningapproachtothetravelingsalesmanproblem.IEEEp.1997(1):53-66.
[2]杨勇,宋晓峰等.蚁群算法求解连续空间优化问题.控制与决策,2003,18(5):573-576.
[3]张国立,王晶等.利用蚁群算法优化前向神经网络.电子商务,2005(18):65-67.
[4]汪镭,吴启迪.蚁群算法在连续空间寻优问题求解中的应用.控制与决策,2003,18(1):45-48.
[5]ManiezzoV,carbonaroA.Anantsheuristicforthefrequencyassignmentproblem.FutrueGenerationComputerSystems,2000,16:927-935.
关键词:机器人路径规划算法
一、本文就常见的几种常见的路径规划算法及应用进行简单的探讨如下:
(一)遗传算法概念
遗传算法是根据达尔文的进化论,模拟自然选择的一种智能算法,“适者生存”是它的核心机制。遗传算法是从代表问题可能潜在解集的一个种群开始的。基于随机早期人口,根据的原则,优胜劣汰,适者生存,世代演化产生更好的人口大概。在每一代,根据问题域的个体适应度大小来选择个人,然后选定的个人在自然遗传学,遗传算子组合交叉和变异,产生代表性的解集的人口。通过这些步骤,后生代种群比前代对于环境具有更好的适应性。人口最优个体解码后可作为近似最优解。
(二)遗传算法的特点
作为一种智能算法,遗传算法具有如下特点:①遗传算法在寻优过程中,只把适应度函数的值作为寻优判据。②遗传算法是由一个问题集合(种群)开始的,而不是从一个个体开始的。故而遗传算法的搜索面积很大,适合全局寻优。③遗传算法根据概率性的变换规则进行个体的优胜劣汰并推动种群的进化。④遗传算法具有隐含的并行性。⑤遗传算法具有自组织、自适应以及内在的学习性,同时遗传算法具有很强的容错能力。⑥遗传算法的基本思想简单。对于复杂的和非线性的问题具有良好的适应性。
(三)遗传算法的应用
遗传算法提供了一个整体框架地址复杂系统问题,它不依赖于俞特定领域的问题,问题的类型、已是强的鲁棒性,所以广泛应用余许多科学:功能优化遗传算法的经典应用,是遗传算法的性能评价的常见的例子,许多人建设的各种复杂的表格功能测试:连续函数和离散函数,凸、凹函数、低维功能和高尺寸功能、单式功能和更多峰值函数。一些非线性、多模型、多目标函数优化问题和其他优化方法很难解决,GA你可以更好的结果。增加问题的规模,搜索空间的组合优化问题,将会迅速增加,有时的当前枚举方法和计算很难找到最佳的解决方案。实践证明,遗传算法、组合优化问题的粒子非常有效。例如,已成功应用遗传算法解决旅行商问题、背包问题、装箱问题、图形划分问题。此外,遗传算法的生产调度、自动控制、机器人技术、图像处理和机器学习,人工生命,遗传编码,已获得广泛的应用。
二、蚁群算法及其应用
(一)蚁群算法概念
(二)蚁群算法的特点
①蚁群算法是一种自组织算法。在早期的算法,单一的人工蚂蚁障碍找到求解算法,久而久之,通过信息作用的激素,人工蚂蚁进化将找到一些解决办法更接近最优的解决方案,它是无序到有序的过程。
②蚁群算法的并行算法是一种基本的。每个蚁群搜索进程独立的对方,只能通过信息素通讯。因此,蚁群算法可以看作是一种分布式的多智能体系统,它在问题空间搜索算法开始是一个独立的解决方案,不仅提高了可靠性,这使得该算法具有强的全局搜索能力。
③蚁群算法是一种积极的反馈的算法。从蚂蚁觅食中不难看到蚂蚁已设法找到最短路径的信息的过程取决于直接上的最短路径的积累,以及信息素的积累是一个积极的反馈过程。这种正反馈的过程进行初步的差距有不断扩大,并导致系统的最优解的方向发展。
④蚁群算法具有较强的鲁棒性。比较与其他算法、蚁群算法、初始对齐要求不高,外务大臣蚁群算法用于路由和搜索过程的初步结果不需要手动调整。第二,设立简单、便于应用的蚁群算法求解组合优化问题的蚁群算法参数的殖民地,数目。
(三)蚁群算法应用
蚁群算法应用包括:二次分配问题、车间任务调度问题、车辆路线问题、机构同构判定问题、学习模糊规则问题、旅行社新旅游线路与旅行产品的制作等领域。
三、神经网络算法
(一)神经网络的概念
人工神经网络也被称为神经网络连接模式,它是一种动物模型,神经网络的行为特征,分布式并行处理算法的数学模型。网络依赖于复杂的系统,通过调整内部之间的联系,大量节点,以实现节能的目的,信息处理。
神经网络的应用
人工神经网络的非线性自适应信息处理能力,克服了传统人工智能方法的直觉,作为模型,语音识别,非结构化信息处理方面的缺陷,使神经网络专家系统,模式识别,智能控制,组合优化,预测等领域得到成功应用。人工神经网络和其他传统方法相结合,将促进人工智能和信息处理技术的发展。近年来,人工神经网络模拟人类认知方式更深入的发展,模糊系统,遗传算法,进化机制相结合,形成智能计算,人工智能,已成为一个重要的方向,在实际的应用开发。信息几何学应用于人工神经网络的研究,人工神经网络理论开辟了一条新的途径。
关键词:神经网络;BP算法;PID控制;Matlab仿真
中图分类号:TP274文献标识码:A
PIDControlandSimulationBasedonBPNeuralNetwork
WUWei,YANMengyun,WEIHangxin
(SchoolofMechanicalEngineering,Xi′anShiyouUniversity,Xi′an,710065,China)
Abstract:TheneuralnetworkPIDcontrolmethodisintroduced,whichtheparametersofPIDcontrollerisadjustedbyuseoftheself-studyability.SothePIDcontrollerhasthecapabilityofself-adaptation.ThedynamicBPalgorithmsofthree-layernetworksrealizetheonlinereal-timecontrol,whichdisplaystherobustnessofthePIDcontrol,andthecapabilityofBPneuralnetworkstodealwithnonlinearanduncertainsystem.Asimulationexampleismadebyusingofthismethod.TheresultofsimulationshowsthattheneuralnetworkPIDcontrollerisbetterthantheconventionalPIDcontroller,andhashigheraccuracyandstrongeradaptability,itcangetthesatisfiedcontrolresult.
Keywords:neuralnetwork;BPalgorithm;PIDcontrol;Matlabsimulation
在工业控制中,PID控制是最常用的方法。因为PID控制器结构简单,实现容易,控制效果良好[1]。随着工业的发展,对象的复杂程度不断加深,尤其对于大滞后、时变的、非线性的复杂系统,常规PID控制显得无能为力。因此常规PID控制的应用受到很大的限制和挑战。为了使控制器具有较好的自适应性,实现控制器参数的自动调整,可以采用神经网络控制的方法[2]。
利用神经网络所具有的非线性映射能力、自学习能力、概括推广能力,结合常规PID控制理论,通过吸收两者的优势,使系统具有自适应性,可自动调节控制参数,适应被控过程的变化,提高控制性能和可靠性[3]。
1神经网络PID控制
神经网络PID控制是神经网络应用于PID控制并与传统PID控制相结合而产生的一种新型控制方法,是对传统的PID控制的一种改进和优化[4]。
1.1常规的PID控制器
传统的PID控制器算式如下:
u(t)=KP[e(t)+(1/T1)∫t0e(t)dt+TDde(t)/dt](1)
相应的离散算式为:
u(k)=KPe(k)+KI∑kj=0e(j)+KD[e(k)-e(k-1)](2)
式中:KP,KI,KD分别为比例、积分、微分系数;e(k)为第k次采样的输入偏差值;u(k)为第k次采样时刻的输出值。
PID控制器由比例(P)、积分(I)、微分(D)三个部分组成,直接对被控对象进行闭环控制,并且三个参数KP,KI,KD为在线调整方式。
1.2神经网络
BP神经网络的结构如图1所示。
BP神经网络通常采用基于BP神经元的多层前向神经网络的结构形式。典型的BP神经网络是3层网络,包括输入层、隐层和输出层,各层之间实行全连接。输入层节点只是传递输入信号到隐含层;隐含层神经元(即BP节点)的传递函数f常取可微的单调递增函数,输出层神经元的特性决定了整个网络的输出特性。当最后一层神经元采用Sigmoid函数时,整个网络的输出被限制在一个较小的范围内;如果最后一层神经元采用Purelin型函数,则整个网络的输出可以取任意值。
图1三层BP网络结构图
设,x1,x2,…,xn为BP网络的输入;y1,y2,…,yn为BP网络的输出;w1ji为输入层到隐含层的连接权值;w2ij为隐含层到输出层的连接权值。
图1中各参数之间的关系为:
输入层:xi=xi0
隐含层:
θ1j=∑ni=0w1jixi,x1j=f(θ1j)(3)
输出层:
θ2i=∑ni=0w2ijxj,x2i=g(θ2i)(4)
BP神经网络采用误差的反向传播来修正权值,使性能指标E(k)=(1/2)\2最小。按照梯度下降法修正网络的权值:
δ2=e(k)g′\;
w2ij(k+1)=w2ij(k)+ηδ2x1j(k)(5)
δ1=δ2w2ijf′\;
w1ji(k+1)=w1ji(k)+ηδ1x0i(k)(6)
1.3神经网络PID控制器结构
基于BP神经网络的PID控制系统结构如图2所示。控制器由常规的PID控制器和神经网络两部分组成。PID控制要取得较好的控制效果,必须通过调整好比例、积分和微分三种控制作用,形成控制量中相互配合又相互制约的关系。
常规的PID控制器直接对被控对象进行闭环控制,并且其控制参数为KP,KI,KD在线调整方式。神经网络根据系统的运行状态,调节PID控制器的参数,以期达到某种性能指标的最优化,使输出层神经元的输出对应于PID控制器的三个可调参数KP,KI,KD。神经网络所具有的任意非线性表达能力,可以通过对系统性能的学习来实现具有最佳组合的PID控制。
图2基于BP神经网络的PID控制器结构
1.4神经网络PID控制器的控制算法
(1)确定神经网络的结构,即确定输人节点数和隐含层节点数,并给出各层加权系数的初值w(1)ij(0)和w(2)ji(0),并选定学习速率η和惯性系数α,令k=1;
(2)采样得到r(k)和y(k),计算当前时刻的误差e(k)=r(k)-y(k);
(3)计算各神经网络的输入/输出,其输出层的输出即为PID控制器的三个控制参数KP,KI,KD;
(4)计算PID控制器的输出;
(5)进行神经网络学习,在线调整加权系数,实现PID控制参数的自适应调整;
(6)令k=k+1,返回(1)。
2神经网络的Matlab仿真
为了检验神经网络PID控制系统的能力,在此进行大量的仿真实验。下面以一阶时滞系统作为被控对象,进行仿真实验。
设被控对象为:
G(s)=160s+1e-0.5s
相应的控制系统的阶跃响应曲线如图3、图4所示。
图3普通PID控制阶跃响应
图4神经网络PID控制阶跃响应
3结语
神经网络PID控制方法简单,借助神经网络的自学习、自组织能力,可实现PID参数的在线自整定和优化,避免了人工整定PID参数的繁琐工作。从文中可以得出,神经网络PID控制有如下的优点:
(1)无需建立被控系统的数学模型;
(2)控制器的参数整定方便;
(3)对于大滞后、时变的、非线性的复杂系统有很好的动静态特性。实现有效控制和PID控制参数的在线自整定。
[1]刘金琨.先进PID控制及Matlab仿真[M].北京:电子工业出版社,2003.
[2]韩豫萍,孙涛,盛新.基于BP神经网络的PID控制及仿真[J].可编程控制器与工厂自动化,2007(12):91-93.
[3]黄金燕,葛化敏,唐明军.基于BP神经网络的PID控制方法的研究[J].微计算机信息,2006(26):278-280.
[4]曾军,方厚辉.神经网络PID控制及其Matlab仿真[J].现代电子技术,2004,27(2):51-52.
[5]赵娟平.神经网络PID控制策略及其Matlab仿真研究[J].微计算机信息,2007(7):59-60.
[6]ZhangMingguang,QiangMinghui.StudyofPIDNeuralNetworkControlforNonlinearSystem[J].InstituteofElectricalandElectronicsEngineersInc,2007.
[7]孙洁.神经网络PID算法在流量控制中的应用与仿真研究[D].合肥:合肥工业大学,2007.
[8]王亚斌.基于BP神经网络PID控制及其仿真[J].江苏冶金,2008(2):33-35.
[9]廖方方,肖建.基于BP神经网络PID参数自整定的研究\.系统仿真学报,2005(7):1711-1713.
关键词:模糊神经网络多目标识别动能拦截器
一、引言
在大气层外拦截中,动能拦截弹从地面发射以后,经过初始制导和中制导过程将其携带的动能拦截器(KineticKillVehicle,KKV)送入预定拦截区域,在距离目标较近的范围内测量其视线角信息,通过控制轨控发动机开关机,来调整KKV的飞行轨迹[1]。整个过程中,弹目视线角及其角速率是设计KKV制导导引律的关键参数。
二、模糊神经网络设计
模糊神经网络(FuzzyNeuralNetwork,FNN)将模糊系统和神经网络相结合,能充分发挥神经网络的并行处理、自适应学习和模糊推理对人的知识进行决策的功能[3]。FNN是由大量形式相同的模糊神经元相互连接起来构成的网络系统,其本质是将常规的神经网络输入模糊信号和模糊权值。
图1模糊神经网络结构图
一个完整的前向模糊神经网络通常由输入层、模糊化层、模糊推理层和去模糊化层构成,如图1所示:第一层为输入层,r是输入变量数;第二层为模糊化层,该层实现输入变量的模糊化,计算出变量相对于每个模糊子空间的隶属度,隶属函数采用高斯函数;第三层为模糊推理层,是网络的核心,它完成模糊合成和模糊蕴含运算,实现模糊推理映射;第四层为去模糊化层,对模糊推理层输出的结果进行去模糊化处理,表征形式为输入信号的加权和。
三、KKV拦截目标过程
图2FNN识别目标流程图
四、仿真验证
假设某空域中出现三个目标,其中只有一个为真目标,其余为假目标。目标初始位置为(30,0,0)、(30,30,0)、(0,30,0)(km),初始速度均为300m/s,真目标径向角速率为0.1rad/s,假目标无机动。KKV初始速度为600m/s。FNN有四个输入节点,两个输出节点,模糊层和推理层根据经验选取5层,初始权值ω为0.2,学习步长为0.01s,假设所有初始值均无测量误差。
图3识别出真目标前后的KKV加速度曲线
仿真开始,目标进入可识别区域,检测目标特征,模糊神经网络开始学习,不断更新权值,FNN识别出真目标后,如图3所示,制导位置发生突变,KKV轨控加速度也相应突变,随之产生机动飞行,加速度迅速下降,KKV拦截新目标,脱靶量为1.1m。
五、结论
[1]王磊,大气层外动能多拦截器目标拦截策略研究[J],导弹与航天运载技术,2011(05)