如今，深度学习(Deep Learning，简称DL )在算法领域非常受欢迎，它反映了深度学习在生活的各个领域都处于领先地位的巨大变革，而不仅仅是互联网和人工智能。 要学习深度学习，首先必须熟悉神经网络(Neural Networks，简称NN )的基本概念。 当然，这里所说的神经网络似乎不是生物学神经网络，而是称为人工神经网络(Artificial Neural Networks )更合理。 神经网络最初是人工智能领域的算法或模型，目前神经网络已经发展成为多学科交叉的学科领域，它也随着深度学习的发展再次受到重视和推荐。
神经元模型人工神经网络是受人脑结构的启发而建立的。 如下图所示，我们的大脑有几十亿个称为神经元的细胞，它们相互连接形成一个神经网络。
神经网络算法正是模仿上面的网络结构。 接下来是人工神经网络的结构图。 每个圆代表一个神经元，他们连接在一起构成一个网络。
人脑神经元细胞的树突用于接收外界多种强度不同的刺激，在神经元细胞内处理，并将其转化为一个输出结果。 在这里，神经元是神经网络的基本单元，学习生物学的同学知道神经元有兴奋和抑制两种状态。 大多数神经元通常处于抑制状态，但当某些神经元受到刺激时，它们会进入“兴奋”状态，进而向其他神经元传播化学物质(其实是信息)。 下图为生物神经元结构示意图：
人工神经元也有类似的机制。 如下图所示。
上面的x是神经元的输入，相当于树突接受的多个外部刺激。 w是与各输入对应的权重，表示各特征的重要度，与各输入特征对应，影响各输入x的刺激强度。 假设只有三个特征，x可以使用(x1、x2、x3 )。 b表示阈值[y zh]，影响预测结果。 z是预测结果。
因此，有z=(x1*w1x2*w2x3*w3 )- b。
以上公式在行业中称为逻辑回归。
激活函数在实际的神经网络中不能用逻辑直接回归。 必须在逻辑回归之外添加导致它的电位超过一个阈值，那么这个神经元就会被激活。 此函数称为套上一个函数。 激活函数非常重要，没有它神经网络的智商永远不会高。 更详细地说，1943年，McCulloch和Pitts用简单的模型表示了上图的神经元结构，构成了人工神经元模型，也就是现在我们常用的“M-P神经元模型”。 下图：
从上图中的M-P神经元模型可以看出，神经元的输出
这里，是我们前面提到的神经元的激活阈值，函数f ()也称为激活函数。 激活函数有多个，如上图所示，函数f ()可以用大于阈值的步进方程表示； 否则我会遏制的。 但这有点太粗暴了。 因为阶跃函数不光滑、不连续、不导电。 因此，常用的方法是用sigmoid函数表示函数f ()。 其公式和图像如下。
这里首先只介绍其中一个用途——将z映射到[ 0，1 ]之间。 上图中的横轴表示z，纵轴表示y’，y’表示最终的预测结果。 从图像可以看出，z越大，y’越接近1，而z越小，y’越接近0。 那么，为什么要将预测结果映射在[ 0，1 ]之间呢？ 因为这不仅便于神经网络的计算，也便于我们人类的理解。 例如，在预测是否有猫的例子中，如果y’为0.8，则有80%的概率有猫。
总结大脑结构越简单，智商就越低。 单细胞生物智力最低。 人工神经网络也是一样，网络越复杂越强大，所以需要深度神经网络。 这里的深度是指层数越多、层数越多，结构的神经网络越复杂。
训练深度神经网络的过程叫做深度学习。 网络建立后，我们只要负责任地不断将训练数据输入神经网络，其内部就会自己不断变化不断学习。 例如，假设你想训练深度神经网络来识别猫。 我们只要不断地把猫的图像输入神经网络。 训练成功后，我们可以任意拿来hhdwdm的照片，判断是否有猫。 但是，我们不知道他的分析过程是怎么样的，它是如何判断猫是否存在的。 当我们教孩子关于猫的时候，我们会带来白色的猫，告诉他们这是猫，带来黑色的猫，也告诉他们这是猫，在他的脑子里不断学习猫的特征。 最后拿来几只花猫，问他，他会告诉你这也是猫。 但是他是怎么知道的？ 他脑子里的分析过程怎么样？ 我们无法知道~~
参考：
3359 www.captain bed.net/2018/11/18/what is nn /