二级网站建设 管理思路,wordpress邀请码计数,四川省建筑信息平台,广州推广seo1.VGG背景 2. VGGNet模型结构 3. 特点#xff08;创新、优缺点及新知识点#xff09;
一、VGG背景 VGGNet是2014年ILSVRC#xff08;ImageNet Large Scale Visual Recognition Challenge大规模视觉识别挑战赛#xff09;竞赛的第二名#xff0c;解决ImageNet中的1000类图…1.VGG背景 2. VGGNet模型结构 3. 特点创新、优缺点及新知识点
一、VGG背景 VGGNet是2014年ILSVRCImageNet Large Scale Visual Recognition Challenge大规模视觉识别挑战赛竞赛的第二名解决ImageNet中的1000类图像分类和定位问题第一名是GoogLeNet。 VGG全称是Visual Geometry Group因为是由Oxford的Visual Geometry Group提出的。AlexNet问世之后很多学者通过改进AlexNet的网络结构来提高自己的准确率主要有两个方向小卷积核和多尺度。而VGG的作者们则选择了另外一个方向即加深网络深度。主要工作是证明了增加网络的深度能够在一定程度上影响网络最终的性能。 他们以 7.32% 的错误率赢得了 2014 年 ILSVRC 分类任务的亚军冠军由 GoogLeNet 以 6.65% 的错误率夺得和 25.32% 的错误率夺得定位任务Localization的第一名GoogLeNet 错误率为 26.44%。VGG可以看成是加深版本的AlexNet. 都是conv layer FC layer。
补充 ImageNet Large Scale Visual Recognition Challenge 是李飞飞等人于2010年创办的图像识别挑战赛自2010起连续举办8年极大地推动计算机视觉发展。比赛项目涵盖图像分类(Classification)、目标定位(Object localization)、目标检测(Object detection)、视频目标检测(Object detection from video)、场景分类(Scene classification)、场景解析(Scene parsing)。竞赛中脱颖而出大量经典模型 alexnetvgggooglenetresnetdensenet等。
二、VGGNet模型结构
1.相关论文
论文全名Very deep convolutional networks for large-scale image recognition
论文下载地址https://arxiv.org/pdf/1409.1556.pdf VGG有两种结构分别是VGG16和VGG19两者并没有本质上的区别只是网络深度不一样。在此过程中作者做了六组实验对应6个不同的网络模型这六个网络深度逐渐递增的同时也有各自的特点。实验表明最后两组即深度最深的两组16和19层的VGGNet网络模型在分类和定位任务上的效果最好。
2.各组的区别
A起始。 A-LRN加了LRN这是AlexNet里提出来的。 B加了两个卷积层。 C: 进一步叠加了3个卷积层但是加的是1 * 1的kernel。 D将C中1 * 1的卷积核替换成了3 * 3的即VGG16。 E在D的基础上进一步叠加了3个3*3卷积层即VGG19。 VGG16包含了16个隐藏层13个卷积层和3个全连接层如上图中的D列所示。 VGG19包含了19个隐藏层16个卷积层和3个全连接层如上图中的E列所示。 所有卷积层有相同的配置即卷积核大小为3x3步长为1填充为1共有5个最大池化层大小都为2x2步长为2共有三个全连接层前两层都有4096通道第三层共1000路及代表1000个标签类别最后一层为softmax层所有隐藏层后都带有ReLU非线性激活函数
三、特点创新及新知识点 作者就用验证集当做测试集来观察模型性能。这里作者使用两种方式来评估模型在测试集实际的验证集的性能表现。LRN层无性能增益A和A-LRN、深度增加分类性能提高A、B、C、D、E、conv1x1的非线性变化有作用C和D、多小卷积核比单大卷积核性能好B。 对于给定的感受野与输出有关的输入图片的局部大小采用堆积的小卷积核是优于采用大的卷积核因为多层非线性层可以增加网络深度来保证学习更复杂的模式而且代价还比较小参数更少。 简单来说在VGG中使用了3个3x3卷积核来代替7x7卷积核使用了2个3x3卷积核来代替5*5卷积核这样做的主要目的是在保证具有相同感知野的条件下提升了网络的深度在一定程度上提升了神经网络的效果。 VGG16相比AlexNet的一个改进是采用连续的几个3x3的卷积核步长1padding0代替AlexNet中的较大卷积核11x117x75x5。
2、小池化核 相比AlexNet的3x3的池化核VGG全部为2x2的池化核
3、层数更深、特征图更宽 把网络层数加到了16、19层不包括池化层和softmax层而AlexNet是8层结构。基于前两点外由于卷积核专注于扩大通道数、池化核专注于缩小宽和高使得模型架构上更深更宽的同时计算量的增加放缓。使网络有更大感受野的同时能降低网络参数同时多次使用ReLu激活函数有更多的线性变换学习能力更强。训练时将同一张图片缩放到不同的尺寸在随机剪裁到224224的大小能够增加数据量。预测时将同一张图片缩放到不同尺寸做预测最后取平均值。网络测试阶段全连接换成卷积。网络测试阶段将训练阶段的3个全连接替换为3个卷积测试重新用训练时的参数使得测试得到的全卷积网络因为没有全连接的限制因而可以接收任意宽或高为的输入。数据增强:方法一针对位置 训练阶段按比例缩放图片至最小边为S随机位置裁剪出224224区域随机进行水平翻转。方法二针对颜色 修改RGB通道的像素值实现颜色扰动S设置方法固定值固定为256或384随机值每个batch的S在[256, 512]实现尺度扰动。
4、VGG优点
VGGNet的结构非常简洁整个网络都使用了同样大小的卷积核尺寸3x3和最大池化尺寸2x2。几个小滤波器3x3卷积层的组合比一个大滤波器5x5或7x7卷积层好验证了通过不断加深网络结构可以提升性能。
5、VGG缺点 VGG耗费更多计算资源并且使用了更多的参数这里不是3x3卷积的锅导致更多的内存占用140M。其中绝大多数的参数都是来自于第一个全连接层。VGG可是有3个全连接层啊
参考文章https://www.sohu.com/a/214925396_633698
