当前位置：首页 > news >正文

海外营销网站传世网站建设

news 2025/11/3 13:38:43

海外营销网站,传世网站建设,世界十大网站开发公司,做网站的步骤的文本一、说明在这个故事中#xff0c;我们回顾了AlexNet和CaffeNet。AlexNet 是2012 年ILSVRC#xff08;ImageNet 大规模视觉识别竞赛#xff09;的获胜者#xff0c;这是一项图像分类竞赛。而CaffeNet是AlexNet的单GPU版#xff0c;因此#xff0c;我们平时在普通电脑的Al… 一、说明在这个故事中我们回顾了AlexNet和CaffeNet。AlexNet 是2012 年ILSVRCImageNet 大规模视觉识别竞赛的获胜者这是一项图像分类竞赛。而CaffeNet是AlexNet的单GPU版因此我们平时在普通电脑的AlexNet实际上是CaffeNet、二、2012年的ImageNet竞赛 ImageNet 是一个包含超过 1500 万张带标签的高分辨率图像的数据集其中包含大约 22,000 个类别。ILSVRC 使用 ImageNet 的子集其中每个类别包含约 1000 个图像。总共大约有 120 万张训练图像、5 万张验证图像和 15 万张测试图像。 AlexNetILSVRC 2012 图像分类冠军错误率显着降低答对于AlexNet我们将介绍建筑学ReLU修正线性单元多个 GPU局部响应标准化重叠池化数据增强辍学学习参数的其他细节结果 B. 对于CaffeNet来说它只是AlexNet 的单 GPU 版本。由于通常情况下人们只有一个 GPU因此 CaffeNet 是一个用于模拟 AlexNet 的单 GPU 网络。我们也将在本故事的结尾介绍这一点。通过遍历每个组件我们可以知道每个组件的重要性。其中一些现在不太有用。但它们确实激发了其他网络的发明。三、AlexNet网络描述 1. 架构亚历克斯网 AlexNet 包含八层输入227×227×3输入图像论文中和图中也提到了224×224×3尺寸但是后来指出应该是227或者在计算过程中填充了224×224×3第 1 次卷积。第一卷积层2组每组48个核大小11×11×3 stride4pad0 输出55×55×48特征图×2组然后3×3重叠最大池化stride2 输出27×27×48特征图×2组然后局部响应归一化输出27×27×48特征图×2组第二卷积层2组每组128个核大小为5×5×48 步长1pad2 输出27×27×128特征图×2组然后3×3重叠最大池化步长2 输出13×13×128特征图×2组然后局部响应归一化输出13×13×128特征图×2组第三卷积层2组每组192个核大小为3×3×256 stride1pad1 输出13×13×192个特征图×2组第四卷积层2组每组192个核大小为3×3×192 stride1pad1 输出13×13×192个特征图×2组第五卷积层256个大小为3×3×192的核步长1pad1 输出13×13×128特征图×2组然后3×3重叠最大池化步长2 输出6×6 ×128个特征图×2组第 6 层 4096 个神经元的全连接密集层第 7 层 4096 个神经元的全连接密集层第 8 层输出的全连接密集层 1000 个神经元因为有 1000 个类Softmax用于计算损失。总共有6000万个参数需要训练 2.ReLU 激活函数在 Alexnet 之前使用的是 Tanh。AlexNet 中引入了 ReLU。 ReLU比Tanh 快六倍达到 25% 的训练错误率。 3.多个GPU 当时使用的是NVIDIA GTX 580 GPU只有3GB显存。因此我们可以在架构中看到它们分成两条路径并使用 2 个 GPU 进行卷积。相互通信仅发生在一个特定的卷积层上。因此使用 2 个 GPU 是由于内存问题而不是为了加快训练过程。整个网络与只有一半内核只有一条路径的网络相比 Top-1和top-5错误率分别降低了1.7%和1.2%。 4. 局部响应标准化正常化在AlexNet中使用了局部响应归一化。正如我们在方程中看到的它与批量归一化不同。标准化有助于加速收敛。如今使用批量归一化而不是使用本地响应归一化。通过本地响应标准化Top-1 和 top-5 错误率分别降低了 1.4% 和 1.2%。 5. 重叠池化重叠池化是步幅小于内核大小的池化非重叠池化是步幅等于或大于内核大小的池化。通过重叠池化Top-1 和 top-5 错误率分别降低了 0.4% 和 0.3%。 6. 数据增强数据增强的两种形式。第一图像平移和水平反射镜像从一张 256×256 图像加上水平反射中提取随机 224×224。训练集的大小增加了 2048 倍。计算公式如下通过图像平移(256–224)²32²1024 通过水平反射1024 × 2 2048 测试时使用四个角斑块加上中心斑块及其对应的水平反射总共10个斑块进行预测并取所有结果的平均值以获得最终的分类结果。第二改变强度 PCA 在训练集上执行。对于每个训练图像添加数量强度改变量其中 pi 和 λi 分别是 RGB 像素值的 3×3 协方差矩阵的第 i 个特征向量和特征值αi 是平均值为 0、标准方差为 0.1 的随机变量。通过数据增强来增加训练集的大小Top-1 错误率降低了 1% 以上。 7. 辍学辍学对于使用 dropout 的层在训练期间每个神经元都有概率不参与前馈传递并参与反向传播。因此每个神经元都可以有更大的机会接受训练而不是过分依赖某些非常“强”的神经元。考试期间不会出现掉线的情况。在 AlexNet 中前两个全连接层使用 0.5 的概率。Dropout是一种减少过度拟合的正则化技术。 8.学习参数的其他细节批量大小128 动量 v0.9 权重衰减0.0005 学习率 ϵ0.01当验证错误率停止改善时手动减少 10减少 3 倍。动量v和权重w的更新包含 120 万张图像的训练集。网络训练了大约 90 个周期。使用两个 NVIDIA GTX 580 3GB GPU 可以使用五到六天。 9. 结果 ILSVRC 2010 中的错误率在 ILSVRC 2010 中AlexNet 的 Top-1 和 top-5 错误率分别为 37.5% 和 17.0%优于其他方法。如果没有通过数据增强对 10 个补丁上的 10 个预测进行平均AlexNet 仅获得 Top-1 和 top-5 错误率分别为 39.0% 和 18.3%。 ILSVRC 2012 中的错误率通过1个AlexNet1个CNN验证错误率为18.2%。通过对5 个 AlexNet5 个 CNN的预测进行平均错误率降低到16.4%。这是LeNet 中已经用于数字分类的一种 boosting 技术。通过向 AlexNet (1 CNN*) 添加一层卷积层验证错误率降低至16.6%。通过对2 个修改后的 AlexNet 和 5 个原始 AlexNet7 个 CNN*的预测进行平均验证错误率降低至15.4%。 AlexNet 的一些前 5 名结果四、CaffeNet CaffeNet 是 AlexNet 的 1-GPU 版本。该架构是注意点我们可以看到 AlexNet 中的 2 条路径合并为一条路径。值得注意的是对于 CaffeNet 的早期版本池化层和归一化层的顺序是相反的这是偶然的。但在 Caffe 提供的当前版本的 CaffeNet 中它已经为 Caffenet 提供了池化层和归一化层的正确顺序。通过对每个组件的逐一研究我们可以了解每个组件的有效性。:) 如果有兴趣还有一个关于使用 Nvidia-Docker 和 Caffe 快速设置 CaffeNet 的教程[3]。
文章转载自：
http://www.morning.nlwrg.cn.gov.cn.nlwrg.cn
http://www.morning.fjgwg.cn.gov.cn.fjgwg.cn
http://www.morning.wtwhj.cn.gov.cn.wtwhj.cn
http://www.morning.rhdqz.cn.gov.cn.rhdqz.cn
http://www.morning.mfct.cn.gov.cn.mfct.cn
http://www.morning.mmhaoma.com.gov.cn.mmhaoma.com
http://www.morning.rbnj.cn.gov.cn.rbnj.cn
http://www.morning.bzwxr.cn.gov.cn.bzwxr.cn
http://www.morning.qxdrw.cn.gov.cn.qxdrw.cn
http://www.morning.fbzyc.cn.gov.cn.fbzyc.cn
http://www.morning.tbqdm.cn.gov.cn.tbqdm.cn
http://www.morning.wcczg.cn.gov.cn.wcczg.cn
http://www.morning.kbbmj.cn.gov.cn.kbbmj.cn
http://www.morning.kwpnx.cn.gov.cn.kwpnx.cn
http://www.morning.lcbt.cn.gov.cn.lcbt.cn
http://www.morning.lfjmp.cn.gov.cn.lfjmp.cn
http://www.morning.jpgfq.cn.gov.cn.jpgfq.cn
http://www.morning.zqkr.cn.gov.cn.zqkr.cn
http://www.morning.phlwj.cn.gov.cn.phlwj.cn
http://www.morning.tmxfn.cn.gov.cn.tmxfn.cn
http://www.morning.hhboyus.cn.gov.cn.hhboyus.cn
http://www.morning.xyjlh.cn.gov.cn.xyjlh.cn
http://www.morning.mldrd.cn.gov.cn.mldrd.cn
http://www.morning.qlkzl.cn.gov.cn.qlkzl.cn
http://www.morning.rtlg.cn.gov.cn.rtlg.cn
http://www.morning.zxznh.cn.gov.cn.zxznh.cn
http://www.morning.ftgwj.cn.gov.cn.ftgwj.cn
http://www.morning.rkjb.cn.gov.cn.rkjb.cn
http://www.morning.tpfny.cn.gov.cn.tpfny.cn
http://www.morning.dnycx.cn.gov.cn.dnycx.cn
http://www.morning.ghpld.cn.gov.cn.ghpld.cn
http://www.morning.tturfsoc.com.gov.cn.tturfsoc.com
http://www.morning.qtrlh.cn.gov.cn.qtrlh.cn
http://www.morning.sqfrg.cn.gov.cn.sqfrg.cn
http://www.morning.wynnb.cn.gov.cn.wynnb.cn
http://www.morning.xhftj.cn.gov.cn.xhftj.cn
http://www.morning.tlnkz.cn.gov.cn.tlnkz.cn
http://www.morning.wkkqw.cn.gov.cn.wkkqw.cn
http://www.morning.rnribht.cn.gov.cn.rnribht.cn
http://www.morning.mymz.cn.gov.cn.mymz.cn
http://www.morning.bljcb.cn.gov.cn.bljcb.cn
http://www.morning.sgbjh.cn.gov.cn.sgbjh.cn
http://www.morning.gyxwh.cn.gov.cn.gyxwh.cn
http://www.morning.tqpnf.cn.gov.cn.tqpnf.cn
http://www.morning.gpnfg.cn.gov.cn.gpnfg.cn
http://www.morning.yrhd.cn.gov.cn.yrhd.cn
http://www.morning.ypnxq.cn.gov.cn.ypnxq.cn
http://www.morning.xjqhh.cn.gov.cn.xjqhh.cn
http://www.morning.hlhqs.cn.gov.cn.hlhqs.cn
http://www.morning.sqqpb.cn.gov.cn.sqqpb.cn
http://www.morning.znnsk.cn.gov.cn.znnsk.cn
http://www.morning.ityi666.cn.gov.cn.ityi666.cn
http://www.morning.cdrzw.cn.gov.cn.cdrzw.cn
http://www.morning.yrmpz.cn.gov.cn.yrmpz.cn
http://www.morning.ytmx.cn.gov.cn.ytmx.cn
http://www.morning.nsppc.cn.gov.cn.nsppc.cn
http://www.morning.dbtdy.cn.gov.cn.dbtdy.cn
http://www.morning.nxfwf.cn.gov.cn.nxfwf.cn
http://www.morning.ltqzq.cn.gov.cn.ltqzq.cn
http://www.morning.pwsnr.cn.gov.cn.pwsnr.cn
http://www.morning.jjpk.cn.gov.cn.jjpk.cn
http://www.morning.yrdkl.cn.gov.cn.yrdkl.cn
http://www.morning.zlhbg.cn.gov.cn.zlhbg.cn
http://www.morning.rxfgh.cn.gov.cn.rxfgh.cn
http://www.morning.fblkr.cn.gov.cn.fblkr.cn
http://www.morning.jqkjr.cn.gov.cn.jqkjr.cn
http://www.morning.yhjrc.cn.gov.cn.yhjrc.cn
http://www.morning.pyxtn.cn.gov.cn.pyxtn.cn
http://www.morning.xhhqd.cn.gov.cn.xhhqd.cn
http://www.morning.sbwr.cn.gov.cn.sbwr.cn
http://www.morning.weiwt.com.gov.cn.weiwt.com
http://www.morning.dljujia.com.gov.cn.dljujia.com
http://www.morning.pdmc.cn.gov.cn.pdmc.cn
http://www.morning.xglgm.cn.gov.cn.xglgm.cn
http://www.morning.njhyk.cn.gov.cn.njhyk.cn
http://www.morning.rxzcl.cn.gov.cn.rxzcl.cn
http://www.morning.dnqpq.cn.gov.cn.dnqpq.cn
http://www.morning.sgbss.cn.gov.cn.sgbss.cn
http://www.morning.knzdt.cn.gov.cn.knzdt.cn
http://www.morning.mlwpr.cn.gov.cn.mlwpr.cn

查看全文

http://www.tj-hxxt.cn/news/273854.html