BP神经网络训练算法分析与比较. pdf
~
箭有点变了
ana1ysisandcompareofbpneura1network’s training arithmetic
完美的精灵
陈宗中
(南京铁路职业技术学院,江苏南京210015 )。
(nanjjnginstituteofrailwaytechnology,江苏楠210015 ) )。
摘要: BP神经网络广泛应用于模式识别、信号处理、自动控制等领域,因为其广泛性可以实现任何连续映射
BP网络训练固有的复杂性目前没有完整的算法能够应用于任何BP网络的训练。 本文介绍了MATLAB神经网络
比较了工具箱内各种训练算法的特点及其函数的参数形式,比较了它们的收敛速度和内存消耗情况,说明它们可以分别应用
互联网。
关键词: BP神经网络; 训练算法; 分析; 进行比较
图中分类编号: TP311文献识别码: a文章编号: l671-4792-(2010 )3-0024-04
abstract:bpneuralnetworkshavebeenwidelyusedjnpatternrecognition,signa1 processing.automatic
control,etc. It owns unJversality,becauseitcanmakeanycontinuousmappingcometrue,but,presently,
thereisnotacompatibletrainingarithmeticbecauseofitscomplexity.this papm’introducesthecharac -
teristicsoftrainingarithmeticinthematlab’sneu,alnetworktoolboxandtheparametersoftheirfunc -
tions,thenmakesacompareofspeedandmemoryamongthem,andexplainswhichkindsofnetworktheycanbe
applled in
Keywords:BPNeuralNetwork; 培训体系; 分析公司
0引言的值为NaN,不显示训练状态。 如果网络训练次数多的话
BP神经网络的训练算法是计算性能函数的梯度,在epochs中网络的性能函数值小于goal或超过了训练时间
再沿负梯度方向调整权重和阈值,当性能函数达到最大time秒时,网络训练全部停止; 参数max—fail的值和初始
很小。 梯度下降算法有增量模式和批处理模式[i1两种模式。 与期限终止技术(网络泛化)相关。
增量模式将每个样本输入应用于网络,然后对网络应用1.2动量梯度下降算法(traingdm )
调整权重和阈值。 批处理模式下,仅当所有动量梯度下降算法都是批处理前馈神经网络的训练时
在本输入全部应用于网络后,网络的权重和阈值调整算法,不仅考虑误差对梯度的影响,而且考虑误差
很整齐。 MATLAB神经网络工具箱提供了许多训练函数,它们都是曲面上变化趋势的影响[21。 运动量项(相当于
属于批处理模式的训练函数,主要可以分为启发式训练函数的一个阻尼项),可以有效地在局部最小问题网络训练中
快速训练函数。 出现。 动量项的加入是指网络中每次权重和阈值的变化
1启发式训练算法