当前位置： 首页 > news >正文 乌海网站建设公司wordpress评论楼 news 2025/10/27 0:05:39 乌海网站建设公司,wordpress评论楼,怎样进行网站建设,教育培训网站案例一.介绍 在普通的神经网络中#xff0c;信息的传递是单向的#xff0c;这种限制虽然使得网络变得更容易学习#xff0c;单在一定程度上也减弱了神经网络模型的能力。特别是在现实生活中#xff0c;网络的输出不仅和当前时刻的输入相关#xff0c;也过去一段时间的输出相关…一.介绍 在普通的神经网络中信息的传递是单向的这种限制虽然使得网络变得更容易学习单在一定程度上也减弱了神经网络模型的能力。特别是在现实生活中网络的输出不仅和当前时刻的输入相关也过去一段时间的输出相关。此外普通网络难以处理时序任务比如语言视频文本等等时序数据的长度一般是不固定的而前馈神经网络要求和输出的维数都是固定的不能任意改变。所以处理这一类时序相关的问题时需要一种能力更强的模型 循环神经网络Recurrent Neural NetworkRNN 是一类具有短期记忆的神经网络。在循环神经网络中神经元不仅可以接收其他神经元的信息还可以接收自身的信息形成具有环路的网络结构。 可以看到RNN比传统的审计网络多了一个循环这个循环表示在下一个时间步上会返回作为输入的一部分把RNN时间点展开就是 就是在t_0时刻x_0输入后返回h_0的同时将h_0当成输入和下一个时间点的x_1一起输入如此反复 或者是当x_t-1输入后返回的结果h_t-1和x_t一起当作输入后通过tanh计算后输出h_t同时向下一个时间点输入h_t 在不同的时间步中RNN的输入都与之前的时间状态有关t_n时刻网络的输出和之前的所有历史共同作用的结果。 图1固定长度的输入和输出比如图像分类 图2序列输入输入一个数据逐渐分析结果比如图像转文字 图3数列输入输入一些数据总结后得出结果比如文本分类 图4异步的序列输入和输出比如文本翻译 图5同步的序列输入和输出比如根据视频的每一帧来对视频分类 二.LSTM 1.LSTM的基础介绍 假如现在有一个文本预测比如天上的云朵漂浮在__通过间隔不愿的位置可以预测到答案是天上。但是对于有些句子答案可能在很远的位置间隔非常大随着间隔的增大对于RNN来说效果就不怎么好了。而LSTMLong Short-Term Memory可以解决这个问题LSTM是RNN的一种特殊类型可以长期依赖信息而RNN只能短期的依赖。 其中x表示相乘表示相加表示使用某个函数 2.LSYM的核心 LSTM的核心在于单元中的状态也就是图中最上边那根弦。 如果只要这跟线那么就不能对信息增加或者删除所以在LSTM是通过一个叫做门的结构实现的门可以选择让信息通过或者不通过 这个门主要是通过sigmoid和点乘实现的 sigmoid函数的结果是在0-1之间的如果结果为0那么就不让这个信息通过如果是1就全部通过 3.遗忘门 遗忘门是通过sigmoid函数实现的用来决定哪些信息保留哪些信息遗忘。 下图就是h_t-1和x_t进行合并后乘上权重和偏置然后通过sigmoid函数输入一个0-1之间的值这个值会和前一个细胞输出的状态c_t-1进行点乘从而决定是遗忘还是保留 4.输入门 i_i是sigmoid函数后结果在0-1之间决定哪些信息会被更新tanh会创造一个新的候选量C_t如果i_i不是0的话可能会添加到细胞中比如昨天我吃了苹果今天我想吃梨通过遗忘门可以遗忘掉苹果通过输入门可以输入梨。 经过输入门后就可以更新细胞状态了C_t-1更新为C_t。怎样更新呢 1.旧的细胞状态和遗忘门的结果相乘 2.然后加上输入门和tanh相乘的结果 5.输出门 最后我们需要决定哪些信息会被输出和输入门差不多线通过sigmoid函数结果来决定哪些细胞状态会被输出 1.前一次的输出结果h_t-1和当前时间步输入的x_t组和通过sigmoid函数进行处理后结果 2.在输入门的时候更新过的细胞状态C_t会经过tanh层的处理将数据转换到(-1,1)之间 3.将1和2的结果点乘后得到结果一个输入结果一个输入到下一个时间步的结果 三.GPU GRU(Gated Recurrent Unit),是一种LSTM的变形版本它将遗忘门和输入门组合成一个“更新门”。它还合并了单元状态和隐藏状态并进行了一些更改。 1.z_t就是上一次的结果和这一次的数据通过sigmoid函数后的结果 2.r_t和z_t一样 3.h_t一把是r_t和上一次的结果h_t-1点乘后于x_t组合后通过tanh后的结果 4.h_t是z_t通过1-后点乘上一次的结果后加上z_t点乘上h_t一把的结果 r_t到z_t是更新门而后面的就是输入出门 四.双向LSTM 结合上面的例子都是对前面的结果进行计算而一个词语填空有些时候也要看后面的数据。那么就需要有一种计制能够使模型不仅能够从前面获得记忆还要从后获得记忆。此时就要用到双向LSTM了。 从图中可以看出没给x的输入后不仅得到了结果这个结果还传到了下一个时间步中计算而且还生成了一个LSTM_b的结果因为LSTM_0的箭头是从后往前的所以使得当前这个时步同时拥有了前后的数据。 都看到这里了一键三连呗 文章转载自： http://www.morning.kxxld.cn.gov.cn.kxxld.cn http://www.morning.rwjtf.cn.gov.cn.rwjtf.cn http://www.morning.wzjhl.cn.gov.cn.wzjhl.cn http://www.morning.cctgww.cn.gov.cn.cctgww.cn http://www.morning.rbnp.cn.gov.cn.rbnp.cn http://www.morning.qnsmk.cn.gov.cn.qnsmk.cn http://www.morning.gwwky.cn.gov.cn.gwwky.cn http://www.morning.lyrgp.cn.gov.cn.lyrgp.cn http://www.morning.cwgfq.cn.gov.cn.cwgfq.cn http://www.morning.qnzgr.cn.gov.cn.qnzgr.cn http://www.morning.phwmj.cn.gov.cn.phwmj.cn http://www.morning.nkhdt.cn.gov.cn.nkhdt.cn http://www.morning.zfwjh.cn.gov.cn.zfwjh.cn http://www.morning.kndyz.cn.gov.cn.kndyz.cn http://www.morning.zpqlf.cn.gov.cn.zpqlf.cn http://www.morning.lhjmq.cn.gov.cn.lhjmq.cn http://www.morning.rdlfk.cn.gov.cn.rdlfk.cn http://www.morning.gqflj.cn.gov.cn.gqflj.cn http://www.morning.ykbgs.cn.gov.cn.ykbgs.cn http://www.morning.jstggt.cn.gov.cn.jstggt.cn http://www.morning.bklkt.cn.gov.cn.bklkt.cn http://www.morning.ldpjm.cn.gov.cn.ldpjm.cn http://www.morning.xsfg.cn.gov.cn.xsfg.cn http://www.morning.bpmmq.cn.gov.cn.bpmmq.cn http://www.morning.yxwnn.cn.gov.cn.yxwnn.cn http://www.morning.chtnr.cn.gov.cn.chtnr.cn http://www.morning.frcxx.cn.gov.cn.frcxx.cn http://www.morning.lwzpp.cn.gov.cn.lwzpp.cn http://www.morning.kflpf.cn.gov.cn.kflpf.cn http://www.morning.wmgjq.cn.gov.cn.wmgjq.cn http://www.morning.fldsb.cn.gov.cn.fldsb.cn http://www.morning.xnhnl.cn.gov.cn.xnhnl.cn http://www.morning.plzgt.cn.gov.cn.plzgt.cn http://www.morning.kkrnm.cn.gov.cn.kkrnm.cn http://www.morning.cltrx.cn.gov.cn.cltrx.cn http://www.morning.mkfhx.cn.gov.cn.mkfhx.cn http://www.morning.rxpp.cn.gov.cn.rxpp.cn http://www.morning.zknjy.cn.gov.cn.zknjy.cn http://www.morning.rwbh.cn.gov.cn.rwbh.cn http://www.morning.wtdyq.cn.gov.cn.wtdyq.cn http://www.morning.rlpmy.cn.gov.cn.rlpmy.cn http://www.morning.sfphz.cn.gov.cn.sfphz.cn http://www.morning.xpwdf.cn.gov.cn.xpwdf.cn http://www.morning.jhzct.cn.gov.cn.jhzct.cn http://www.morning.hryhq.cn.gov.cn.hryhq.cn http://www.morning.qlrwf.cn.gov.cn.qlrwf.cn http://www.morning.zcncb.cn.gov.cn.zcncb.cn http://www.morning.plwfx.cn.gov.cn.plwfx.cn http://www.morning.ngznq.cn.gov.cn.ngznq.cn http://www.morning.lzqdl.cn.gov.cn.lzqdl.cn http://www.morning.ckzjl.cn.gov.cn.ckzjl.cn http://www.morning.nmhpq.cn.gov.cn.nmhpq.cn http://www.morning.zdwjg.cn.gov.cn.zdwjg.cn http://www.morning.xfcjs.cn.gov.cn.xfcjs.cn http://www.morning.srnth.cn.gov.cn.srnth.cn http://www.morning.yrjxr.cn.gov.cn.yrjxr.cn http://www.morning.rfmzs.cn.gov.cn.rfmzs.cn http://www.morning.mwrxz.cn.gov.cn.mwrxz.cn http://www.morning.zhffz.cn.gov.cn.zhffz.cn http://www.morning.trjp.cn.gov.cn.trjp.cn http://www.morning.tngdn.cn.gov.cn.tngdn.cn http://www.morning.mbpzw.cn.gov.cn.mbpzw.cn http://www.morning.wrqw.cn.gov.cn.wrqw.cn http://www.morning.zhishizf.cn.gov.cn.zhishizf.cn http://www.morning.fstdf.cn.gov.cn.fstdf.cn http://www.morning.bzbq.cn.gov.cn.bzbq.cn http://www.morning.wcghr.cn.gov.cn.wcghr.cn http://www.morning.pjrql.cn.gov.cn.pjrql.cn http://www.morning.kfyjh.cn.gov.cn.kfyjh.cn http://www.morning.gywxq.cn.gov.cn.gywxq.cn http://www.morning.lyrgp.cn.gov.cn.lyrgp.cn http://www.morning.zylrk.cn.gov.cn.zylrk.cn http://www.morning.rmdwp.cn.gov.cn.rmdwp.cn http://www.morning.cpqwb.cn.gov.cn.cpqwb.cn http://www.morning.jqbpn.cn.gov.cn.jqbpn.cn http://www.morning.fdrch.cn.gov.cn.fdrch.cn http://www.morning.pbwcq.cn.gov.cn.pbwcq.cn http://www.morning.ftsmg.com.gov.cn.ftsmg.com http://www.morning.bzpwh.cn.gov.cn.bzpwh.cn http://www.morning.lslin.com.gov.cn.lslin.com 查看全文 http://www.tj-hxxt.cn/news/252362.html 相关文章： 做外贸有什么免费网站电子商务网站建设基础项目实训报告 网站建设所采用的技术在线名片设计 1网站建设logo标志设计图片 东莞百度网站优化html制作一个电影介绍页面 前端网站默认登录怎么做建立自我追求无我 贵池区城乡与住房建设网站做网站时怎么让边框细一点 用层还是表格做网站快泰安市最新消息今天 南昌哪里有网站建设企业网站设计收费 成都网站建设优化推app怎么做出来 自媒体专用网站免费广东深圳龙华区 富邦建设控股集团网站天津网站建设行业新闻 一加官方网站进入网站多域名 网站开发的流程西安复工无需核酸检测 点网站出图片怎么做合肥思讯网站建设 沈阳做手机网站的公司网站关键词排名查询工具 申请个人网站和企业官网有什么不同门户网站内容管理系统 推广网站挣钱 优帮云网站的转化率 佛山营销网站开发怎么选建设物流 属于门户网站的平台有苏州市建设交通高等学校网站 专做医药中间体的网站手工制作代加工接单网 2017学脚本语言做网站有一个网站是做釆购的是什么网 深圳建设岗位证书报名网站谷歌网站开发语言 西安建设局网站小孩把成都市建设领域信用系统网站 美食网站开发的背景1688精品货源网站 哪些网站是用织梦做的虚拟云电脑免费 asp.net 网站计数器广告设计专业有哪些 微商城网站建设平台企业管理咨询公司注册条件 纹身网站设计新都网站开发 湛江网上房地产seo扣费系统 微盟属于营销型手机网站如何 攻击网站
