首页 > 编程知识 正文

vgg16有多少个参数,vgg19网络结构详解

时间:2023-05-06 11:44:25 阅读:18894 作者:2252

VGG卷积神经网络是牛津大学2014年提出的模型,该模型提出时,由于其简洁实用,很快成为当时最流行的神经网络模型。 这在图像分类和目标检测任务中都显示了非常好的效果。

其主要贡献在于表明网络深度是算法的优秀部分。 VGG16的网络结构非常一致,自始至终都使用3x3卷积核心2x2的轮询。

VGG的缺点是消耗更多的计算资源,使用更多的参数,消耗更多的内存。 这些参数大部分来自第一个全连接层。

目前使用较多的网络结构主要为Resnet(151-1000层)、Googlenet (谷歌网)、VGG19层。 大多数模型都是基于这些模型

改进、采用新的优化算法、多模型融合等。

重点介绍VGG

VGG是从alexnet发展起来的网络,主要修改以下两个方面。

1 )在第一个角色的基层中使用较小的过滤器大小和间隔(33 ); 2 )在整个图像和多比例下训练和测试图像。

33过滤器:

引入cs231n前面的段落:

一些小滤波器卷积层的组合优于大滤波器卷积层。

假设3x3的卷积层一层一层地重叠3个。 (层与层间有非线性激活函数。 在该排列中,第一卷积层的各神经元相对于输入数据主体具有3x3的视野。

第二卷积层上的神经元相对于第一卷积层具有3x3的视场,也就是说,相对于输入数据主体具有5x5的视场。 同样地,第三卷积层上神经元相对于第二卷积层具有3x3的视场

也就是说,相对于输入数据体有7x7个视野。 假设不使用这三个3x3卷积层,并且第二个使用具有7x-7感知区域的单个卷积层,则所有神经元的感知区域也是7x-7,但是存在一些缺点。

首先,多个卷积层和非线性激活层交替存在的结构比单个卷积层的结构更能提取深层的更好特征。 接下来,假设所有数据都具有c通道,则在单独的7x7卷积层中

对于77C=49C2个参数,三个3x3的卷积层组合只有3*(33c )=27C2个参数。 直观上,优选选择具有小滤波器的卷积层的组合而不是具有大滤波器的卷积层。 前者可以表现输入数据中更多强有力的特征,

使用的参数也很少。 唯一的缺点是,在进行反向传播时,中间的卷积层可能占用更多的内存。

11滤波器:的作用是对输入线进行线性变形,由Relu进行非线性处理,提高网络的非线性表示能力,而不影响输入输出维数。 Pooling:22,间隔s=2 VGG结构图

VGG-16

VGG模型有几种变种,其中最受欢迎的当然是VGG-16。 这是一个有瘦鸭子的模特。

卷积内核参数共享:也就是说,在卷积一个卷积匹配图像时,其中的参数保持不变。 坦率地理解,尺度不变将提高网络的宽容性。 就像杯子是横放还是竖放,人都能分辨出来一样。

低/高等级性能图:即低阶/高阶特征。 这是随着卷积网络的加深,具有不同深度的特征贴图的名称。 低阶特征可以理解为颜色、边缘等特征,就像照片中的车的轮廓一样。 高阶特征可以看作是更抽象的特征,如车中的车轮和车轮中的轮胎,相当于更细分的东西。 由于卷积网络深度的增加,提取的最后一个高阶特征是构成元素的基本构成单元,如点、线、弧等。 最后全连接层的目的其实是进行这些高阶特征的特征性组合。

ReLu和BN :激活函数层和归一化层。 激活函数层的目的是非线性化,得到结果的非线性表示。 归一化BN层可以防止梯度爆炸和梯度色散,也有利于网络的收敛。 Conv BN relu基本上是一起使用的。

总结

VGGNet的好处实在太多了

照片拥有天然的空间结构信息,而卷积操作正是很好地利用了这一空间结构信息。 另外,即使通过对每个块操作多个Conv来减少参数量,也残留相同的感觉范围。 通过网络结构的深化,网络可以提取出更抽象的高阶特征,因此最终提取出了512通道的特征图。 说明了随着网络的加深,对提高精度有很大帮助的缺点。 参数量太大,消耗了很多计算资源。 这主要是由于最后三个全连接层。 然后,还提出了Inception v1、v2、v3版本和FCN等网络,很好地解决了这些问题,感兴趣的人可以自行调查。 虽然VGG比Alex-net有更多的参数、更深的层次; 但是,VGG以很少的迭代次数开始收敛。 原因:

1 )深度和小滤波器尺寸起到了lyxrk规则化的作用。

2 )部分层的预初始化

预初始化:网络a权重w~(0,0.01 )的yxdm分布,bias为0; 由于存在很多ReLU函数,不良权重的初始值对网络训练有很大的影响。

为了避免这个问题,作者现在采用随机方法训练最浅的网络a,并且在训练其他网络时,将a的前四个卷层作为(感觉是每个阶段的第一卷积层) ) ) ) )。

最后与所有连接层的权重为其他网络的初始值,未取代的中间层随机初始化。

版权声明:该文观点仅代表作者本人。处理文章:请发送邮件至 三1五14八八95#扣扣.com 举报,一经查实,本站将立刻删除。