本文资料和截图均来自学堂在线
神经网络
高度抽象大脑，有输入，有输出，神经元之间有各种联系
神经网络最基本的结构——神经元被称为感知机
有输入，有激活函数，有输出，通过调整权重可以实现一定的功能
梯度下降法
对权重求偏导，向负方向走
学习率
要控制每次调整的幅度，一般比较小，想慢慢调整
感知机
是线性识别器
神经网络如何解决线性不可分问题
在输入层是线性不可分的，在隐含层通过逻辑门解决，先做一步映射，映射到隐含层，变成线性可分
sigmod函数，无论什么输入，输出始终在0-1之间
反向传播
反向传播误差，乘以一定的权重w k j w_{kj} wkj
反向传播是局部最优的
处理方法，再去一次
选择其他方法
为了避免平面的出现，添加惯性，在平面上时，当前倒数为0，但受上一个时刻的影响，可以继续走。
神经网络
可说明性比较小
学习资料