首页 > 编程知识 正文

均一化和归一化,为什么要归一化

时间:2023-05-06 15:54:23 阅读:25871 作者:3503

在多分类问题中,通常会使用softmax函数作为网络输出层的激活函数,softmax函数可以对输出值进行归一化操作,把所有输出值都转化为概率(0~1之间),所有概率值加起来等于1,softmax的公式为(啥? 公式? 看不懂? 没关系!看例子!)

3358 www.Sina.com/http://www.Sina.com/http://www.Sina.com /

又或这个东西

还是来看Demo吧!

例如:某个神经网络有3个输出值,为[1,5,3]。

在数学中有个数叫e(数学中一个常数,是一个无限不循环小数,且为超越数,其值约为2.718281828459045)

先计算出e^1(e的1次方),e^5,e^3和它们的和的数值来,e^1=2.718、e^5=148.413,e^3=20.086、e^1+e^5+e^3=171.217

那么1所对应的概率就是

然后5的概率

3的概率

0.016+0.867+0.117=1

版权声明:该文观点仅代表作者本人。处理文章:请发送邮件至 三1五14八八95#扣扣.com 举报,一经查实,本站将立刻删除。