首页 > 编程知识 正文

最大池化和平均池化的区别,池化层

时间:2023-05-03 13:30:13 阅读:27847 作者:4712

参考URL :

3359 blog.csdn.net/weixin _ 38145317/article/details/89310404

3359 www.zhi Hu.com/question/36686900/answer/130890492

1 .池化层的作用:池化层对输入的图像最主要的作用是压缩图像池化层在连续的卷积层中间,减少数据压缩和参数量,减少过拟合

通常使用的合流操作是平均值合流(average-pooling )和最大值合流),最大池化保留了纹理特征,平均池化保留整体的数据特征。实际上池化操作实际上是“降采样”)操作

2 .池化层特征1 .特征不变性(feature invariant ) :

不变性包括平移、旋转和缩放特征不变性,也就是我们在图像处理中经常提到的特征的尺度不变性。 池化操作是图像的resize,即使平时一张狗的图像缩小了两倍,也能识别出是狗的照片,这表明这张图像上剩下的狗最多。我们一眼就可以判断图像上画的是狗。 压缩图像时删除的信息并不重要,但保留的信息具有比例不变性,是最能表现图像的特征

translation invariance:此处提供直观的示例(数字识别)。 假设有16x16的图像,其中有数字1。 我们需要认识到。 这个数字1可能稍微向左写(图1 ),这个数字1可能稍微向右偏移),图1到图2相当于把一个单位向右偏移。 但是,图1和图2经过max pooling,都变成了相同的8x8特征矩阵。 主要特点是我们抓住的同时,问题规模从16x16下降到8x8,而且具有平移不变性。 图中的a (或b )表示原始图像的这些a )或b )的位置最终映射到相同的位置。

rotation invariance (下图表示汉字“一”的认识。 第一张相对于x轴有倾斜角,第二张与x轴平行。 两张图像旋转了,多次最大轮询具有相同的特征

scale invariance (下图表示数字“0”的识别。 第一张“0”比较大,第二张“0”比较小,相当于缩放。 同样,经过多次最大轮询后具有相同的特征

2 .特征维度下降

我们知道一个图像包含的信息很大,特征也很多,但有些信息在执行图像任务时很少使用,或者有重复。 可以去除这些冗馀的信息,提取最重要的特征。 这也是池操作的重要作用3 .在一定程度上防止“过拟合”(overfitting ),使其更容易优化。

对于一个样本(一张图像) x,特征维数dim ) x )从原始256 ) 16x16 )到当前64 ) 8x8 ),我们的特征维数减少,同时我们的参数w的规模也减少,整个模型相对简单与L1正则一样,它类似于稀疏解,即一种常见的防止过拟合的方法(后续更新),用于获得稀疏w。 相反,我们的特征越多,模型就会拟合这些特征,使模型变得复杂,但同时模型泛化能力下降。 也就是说,是过度拟合。

也就是说,进行轮询后,以前的特征维数减少,训练参数减少,泛化能力提高,进而防止过拟合。 其中特征维数的减少不会失去以前的特征

版权声明:该文观点仅代表作者本人。处理文章:请发送邮件至 三1五14八八95#扣扣.com 举报,一经查实,本站将立刻删除。