3358 www.Sina.com/http://www.Sina.com /损失函数(loss function )用于评价模型预测值f(x )与真值y的相似度，损失函数越小，模型的驴根据损耗函数进行反向传播，修正模型参数。 机器学习的目的是学习一系列参数，使预测值无限接近真实值。
1.损失函数：这是损耗函数的一种，是softmax与cross-entropy loss相结合的损耗函数。
让我们先看看软件最大值。 那个函数的形式如下。 其中，z是某个神经网络的所有连接层输出的结果集。 例如，分类问题，进行4分类的话，z是1*4的向量。 j是0~3的标签。 zk是所有连接层的第k个值。
(1) ) ) )。
所有连接输出矢量z的每个值的大小没有限制，很明显，通过1时强制限制在0~1之间，成为概率值。
cross-entropy loss交叉熵损失函数详细地写在我的博客上。 https://blog.csdn.net/gbz 3300255/article/details/106810047。
这里是直接交叉熵公式：
(2) ) ) )。
f(ZC )是上面的f ) fzk )，是softmax函数的输出值。 yc是样品的真正价值呢。 公式(2)是最终的损失函数值。
例如，实际的示例标签是
YC=[ 0，0，1，0 ]。
第一个预测结果是
f(z1 )=[0.1、0.1、0.7、0.1]
f(Z2 )=[ 0.25，0.2，0.3，0.35 ]
f(z3 )=[ 0.15，0.2，0.1，0.55 ]
很明显，第一个预测结果是正确的，第二个、第三个是错误的。 他们的损失函数值分别为
仁爱摩托车1=-log0.7
仁爱摩托车2=-log0.3
仁爱摩托车3=-log0.1
l函数的图像如下。