首页 > 编程知识 正文

一文读懂分频器,vgg网络结构详解

时间:2023-05-04 06:14:42 阅读:161379 作者:2571

《Very Deep Convolutional Networks for Large-Scale Image Recognition》

arxiv:https://arxiv.org/ABS/1409.1556 intro:iclr 2015 home page:http://www.robots.ox.AC.uk/~ vgg/research/ver VGG有两种结构: VGG16和VGG19。 两者没有本质上的区别,但网络的深度不同。

VGG原理VGG16与AlexNet相比的一个改善点是,连续的几个3x3的卷积核代替AlexNet中的较大卷积核(11x11,7x7,5x5)对于给定的感受范围(与输出相关的输入图像的局部大小),采用堆积的小卷积核是优于采用大的卷积核,因为多层非线性层可以增加网络深度来保证学习更复杂的模式,而且代价还比较小(参数更少)

简单来说,VGG使用3个3x3卷积核代替7x7卷积核,使用2个3x3卷积核代替5*5卷积核。 这样做的主要目的是在保证具有相同感知野的前提下,提高网络深度,在一定程度上提高神经网络的效果。

例如,3个步骤为1的3x3卷积核的重叠作用可被视为量值为7的感觉野,实际上指示3个3x3连续卷积对应于一个7x7卷积,其参数总量为3x(9xc^2) 这里c是指输入输出的通道数。 显然,27xC^2小于49xC^2,即减少了参数,且3x3卷积核有利于更好地保持图像性质。

这里说明为什么可以用两个3x3卷积核代替5*5卷积核:

5x5卷积可以被视为在5x5区域中滑动的小的全连接网络。 首先用3x3卷积滤波器进行卷积,然后用所有连接层连接这个3x3卷积输出。 该所有连接层也可以视为3x3卷积层。 现在,您可以使用两个3x3卷积级联(叠加)来代替5x5卷积。

具体如下图所示。

为什么可以用3个3x3卷积核代替7*7卷积核,推导过程与上述类似,大家可以自己作图理解。

VGG网络结构下有VGG网络的结构。 有VGG16和VGG19。

VGG16包括16个隐藏层(13个卷积层和3个全部连接层),如上图的d列所示,VGG19包括19个隐藏层) 16个卷积层和3个全部连接层),如上图的e列所示,VGG网络的结构非常一致,从最初到最后

如果要查看更形象化的VGG网络,可以使用经典的卷积神经网络(CNN )结构可视化工具查看高清晰度、无代码的VGG网络。

VGG优点和缺点VGG优点VGGNet的结构非常简洁,整个网络使用了同样大小的卷积核心大小(3x3 )和最大池大小(2x2 )。

一些小滤镜(3x3)卷积层的组合优于大滤镜(5x5或7x7)卷积层。

验证了深化网络结构可以提高性能。

VGG的缺点VGG消耗更多的计算资源,使用更多的参数(这里不是3x3卷积锅),引起更多的内存消耗(140米)。 大多数这些参数来自第一个完全连接层。 VGG有三个全连接层呢。

PS :一些文章发现,移除所有这些连接层对性能影响不大,参数数量显著减少。

注:许多预培训的方法是使用VGG的模型(主要是16和19 )。 与其他方法相比,VGG的参数空间更大,最终的模型有500m以上,AlexNet只有200m,谷歌net更少,所以train的一个VGG模型需要比平时更长的时间

关于感受野:

假设3x3的卷积层每层重叠3个。 (层与层之间存在非线性激活函数。 在这种排列中,第一个卷积层中的每个神经元对于整个输入数据具有33的视野。

代码篇: VGG培训和测试这里推荐两个开源库。 请参阅tensorflow-vgg进行培训,查看tensor flow进行快速测试。

不介绍代码,但实际上与上述一致。 根据原理,code应该会变快。 我尝试了快速奔跑在VGG-in TensorFlow上,可以进行代码测试,效果很好的是nice。 模型的下载很麻烦。

的Amusi已经为你准备了VGG-in TensorFlow的测试代码、模型和图片。 需要的同学请关注CVer微信公众号、后台回复: VGG。

天道酬勤,有很多要学的知识。 想想就很刺激。 ~Fighting!

参照《Very Deep Convolutional Networks for Large-Scale Image Recognition》

深度网络VGG理解

深度学习经典卷积神经网络的VGGNet

VGG16结构可视化

tensorflow-vgg

VGG-in TensorFlow

机器学习高级笔记深刻理解其VGGResidual Network

版权声明:该文观点仅代表作者本人。处理文章:请发送邮件至 三1五14八八95#扣扣.com 举报,一经查实,本站将立刻删除。