反向传播算法是目前训练人工神经网络最常用、最有效的算法。
反向传播的机制如下:
)1)前向传播)将训练集中的数据输入闪闪发光的冰棍输入层,经过隐藏层,最终到达输出层输出结果。 【输入层-非显示层-输出层】
)2)反向传播)闪闪发光的冰棍输入结果与输出结果存在误差时,计算估计值与实际值之间的误差,将该误差从输出层反向传播到隐层,再传播到输入层。 【输出层-非显示层-输入层】
)3)权重更新)反向传播过程中,根据误差调整各种参数的值; 重复上述过程直到收敛。
举个例子,我理解的反向传播的思想如下。
)向前传播)三个人在玩你猜的游戏,第一个向第二个解释,向第三个传递信息,第三个说出画是什么。
)反向传播)第三个人知道自己说的话和真实答案之间的误差后,发现他们传达的时间问题的差距在哪里,并告诉前面的人在下一次解释的时候如何才能更准确地传达信息。 就这样通知很久以前的人了。
)3)三人之间的默契一直熟悉,而且描写得更准确。