广州专业制作网站,网络推广策略概念,导航网站制作,网站做平台基于卷积神经网络的铁路信号灯识别方法 摘 要#xff1a;1 引言2 卷积神经网络模型2.1 卷积神经网络结构2.2.1 卷积层2.2.2 池化层2.2.3 全连接层 3 卷积神经网络算法实现3.1 数据集制作3.2 卷积神经网络的训练过程3.2.1 前向传播过程 4 实验5 结语 摘 要#xff1a;
目前中… 基于卷积神经网络的铁路信号灯识别方法 摘 要1 引言2 卷积神经网络模型2.1 卷积神经网络结构2.2.1 卷积层2.2.2 池化层2.2.3 全连接层 3 卷积神经网络算法实现3.1 数据集制作3.2 卷积神经网络的训练过程3.2.1 前向传播过程 4 实验5 结语 摘 要
目前中国货运铁路和既有线铁路采用的仍是司机通过瞭望铁路沿线信号灯来指导行驶。本文介绍了一种基于卷积神经网络CNN的铁路信号“三显示”通过信号机识别方法为司机二次甄别信号灯颜色。本文制作“三显示”信号灯数据集在 TensorFlow 平台搭建卷积神经网络建立以卷积层数、数据集大小以及迭代次数为变量的对比实验。在样本条件下4 层卷积网络特征提取效果最优进一步进行卷积层中卷积核的深度对网络收敛性和收敛速度与识别精度的影响的实验最终最优网络下识别率可 达 99.16%。
1 引言
铁路运输是我国交通运输领域的重要组成部分目前我国既有线铁路仍有部分线路需司机瞭望以获取信号灯颜色。为保障铁路运输安全同时为司机提供准确参考信息本文采用卷积神经网络对铁路信号色灯进行识别。 本文着重阐述在以下两种卷积神经网络的基础上自行设计的网络结构提出、进展和最终效果。随着Hinton 等[1]人解决了深度学习模型优化问题深度学习得到迅速发展。基于 1998 年 LeCun 等[2]提出并首先成功应用于数字识别问题的卷积神经网络 LeNet-5和 2014 年由牛津大学提出并准确进行图像分类和目标 检 测 的 卷 积 神 经 网 络 VGG (Visual geometrygroup)[3]设计出能够准确识别信号灯信号卷积神经网络。其中LeNet-5 由以 32321 的单通道图像像素作为输入经 2 层卷积 3 层全连接组成并在小规模手写数字识别中取得较好结果。VGG以 2242243的三通道图像像素作为输入经 13 层卷积 3 层全连接组成并在 2014 年的 ILSVRC 比赛中在 Top-5中取得了 92.3%的正确率。不同于其他深度学习框架卷积神经网络具有位移、畸变鲁棒性并行性等特点是基于深度学习理论的人工神经网络其中的卷积结构既可减少深层网络占用空间也可减少网络参数数量缓解模型过拟合。本文通过制作“三显示”信号灯数据集在TensorFlow 平台搭建多层卷积神经网络建立以卷积层数4、5、6 层、卷积层中不同卷积核个数为变量的对比实验最终找到最优卷积神经网络结构并完成对铁路信号色灯的正确识别。
2 卷积神经网络模型
2.1 卷积神经网络结构
卷积神经网络由多个神经网络层构成每层神经网络由多个神经元组成其结构如图 1 所示。
卷积神经网络可分为输入层、卷积层、池化层、全连接层和输出层。具体介绍如下 1输入层通过对输入图像进行读写操作将原图转化成像素值传入到输入层。 2卷积层卷积核滑动进行卷积运算提取输入层图像特征。卷积核维度和个数均会对输入特征提取量产生影响。 3池化层同样有与卷积核相似的池化核对卷积层图像进行子抽样在保证了有用信息不降低的前提下减少数据处理量。 4全连接层可含有多个全连接层代表神经网络中的隐藏层部分第一层与上一层池化层输出相连。 5输出层输出层的设计取决于卷积神经网络所需结果一般为分类器。
2.2.1 卷积层
通过一个可学习卷积核和一个激活函数即可得 到一个输出特征图。卷积核的维度和个数不同使得特 征图不同卷积层计算公式为
2.2.2 池化层
池化的原理是将上一层输出特征图进行缩小即
2.2.3 全连接层
全连接层中将上一层所得特征图数据拉伸为一维特征作为全连接层输入。全连接层输出通过对输入加权求和并通过激活函数的响应得到
3 卷积神经网络算法实现
3.1 数据集制作
本文信号灯数据集来源于铁路信号实验室拍摄铁路信号灯视频运用 AdobePremiere Pro CC 2015 分帧得到大量图片。将数据集中信号灯图片分为红色、绿色、黄色共 3 类。每类选出 300 张图片作为训练集100 张图片作为测试集。该数据集包含不同视角的铁路信号灯图片
3.2 卷积神经网络的训练过程
3.2.1 前向传播过程
本实验卷积层网络初始化主要采取两种方式分别为 Xavier 方式和正则化方式偏置初始化为0.00001。全连接层权重初始化采取 Xavier 方式偏 置初始化为 0. 1。本 实 验 前 向 传 播 训 练 过 程 中 卷 积 层 采 用 Softmax 分类输出loss 采用交叉熵求平均优化器采用梯度下降 GDO 优化器并使用最小 minimize 取出损失。其中全连接层使用 Dropout 随机损失函数可避免网络过拟合学习率固定未采用自适应学习率。输入图片数据时批尺寸的图片输入采用训练样本随机抽取形式。3.2.2 反向传播过程在反向传播算法中主要训练的网络参数为卷积层、全连接层网络权重和各层网络偏置参数。反向传播算法主要基于梯度下降法网络参数被初始化后通过梯度下降法向训练误差 loss 减小方向调整。通过所有网络层的灵敏度建立总误差对所有网络参数的偏导数进而得到使训练误差减小的方向。训练流程图如图 4 所示。
4 实验
针对 4 层卷积神经网络的结构进一步修改网络参数对比不同卷积层卷积核的个数对测试精度的影响对卷积网络训练过程中收敛速度测试精度进行对比试验。 表 1 是我们设计出的几组卷积核对比组前面 6组按每个池化层分界组按比例增加卷积核的个数后面 3 组对比不同层卷积核的排列顺序由少到多、由多到少的顺序和均匀分布顺序对实验结果的影响, 由于选取的初始化方式可能导致的出现拟合现象每个数量经过多次的对比可能存在实验上的读取数据出现误差以下网络数量的选择提供出了网络收敛及稳定性的比较。上表显示了上述网络经过迭代以后最终趋于稳定时我们用测试集测出的精度结果由于迭代到后期训练 loss 损失很小接近于 0所以我们选取 的是迭代次数在25000次以内的测试精度趋于不变时的网络的转折点作为网络的稳定时测试精度其中网络随着迭代次数的增加测试精度增加逐渐趋于不变。 由上述实验对比发现1-6 类的对比中随着网络中卷积核的增加收敛速度变慢由于计算量的增加以及深度的增加网络中参数的更新变得缓慢卷积核个 数为 80 个时可见针对本数据集大小与特征网络存在最优值如图 4 所示。其中网络结构为均匀分布总数为 68 个的卷积核排列得到最快的收敛倒叙排列的网络在 25000 次迭代次数内没有收敛而且网络的个数增加的过程中需要迭代次数增大才能达到相同收敛结果同时前期训练过程中网络训练精度波动增大多次训练同一网络出现过拟合现象次数增多表 明网络损失未能按梯度进行下降。 第 7 类卷积核个数按照增序变化网络训练过程中前期训练中损失下降较少中期过程时有一阶跃变化如图 4后期 loss 接近于 0。第 8 类时卷积核个数按照降序变化网络训练过程中损失下降较快在4400 轮迭代次数时网络陷入局部最优此时损失已经接近于0网络的测试精度在25000次时徘徊在0.5可知网络训练采用降序影响网络收敛较大较难得到较高的测试精度。第 9 类卷积核选择的是均匀顺序网络收敛速度较为理想在 2500 轮迭代时已经达到了0.89 的测试精度并在 25000 轮时测试精度达到0.9324。由于卷积网络层数多、训练数据较少、训练模型结构复杂及 Overtraining 拟合训练数据中噪声和训练样例没有代表性特征等原因导致网络易出现过拟合现象。为更好的避免这种现象可在原数据集基础上 进行图像锐化、明暗度调整等操作随机加入噪声可采用合适的卷积模型卷积预处理后的数据集也可添加正则项将权值大小加入损失函数以减少过度拟合。
5 结语
本文建立卷积神经网络对铁路信号色灯图片进行神经网络训练使用卷积神经网络提取铁路信号色灯特征通过目标特征提取池化最终在信号灯样本 图片集下经过对比试验在最优范围内的 4 层卷积神经网络卷积核个数为 80 时按照增序排布、分布较均匀的方式测试最高识别率为 99.16%可通过在小范围内进一步优化得到更高的识别率。CNN 网络在铁路信号色灯识别上的应用将为铁路司机提供信号灯信息参考同时更大程度的保障铁路行车安全。
