当前位置： 首页 > news >正文 网站内部链接优化方法谈一谈对网站开发的理解 news 2025/11/6 2:45:11 网站内部链接优化方法,谈一谈对网站开发的理解,wordpress08模板,外贸有哪些网站问题 多模态语义理解通常需要处理不确定性#xff0c;这意味着获得的消息往往涉及多个目标。这种不确定性对我们的解释来说是有问题的#xff0c;包括模式间和模式内的不确定性。人们很少研究这种不确定性的建模#xff0c;特别是在未标记数据集的预训练和特定任务下游数据…问题 多模态语义理解通常需要处理不确定性这意味着获得的消息往往涉及多个目标。这种不确定性对我们的解释来说是有问题的包括模式间和模式内的不确定性。人们很少研究这种不确定性的建模特别是在未标记数据集的预训练和特定任务下游数据集的微调方面。 贡献 我们专注于多模态理解的语义不确定性并提出了一个称为概率分布编码器的新模块将多模态表示中的不确定性框架为高斯分布。我们开发了三个不确定性感知预训练任务来处理大规模未标记数据集包括 D-VLC、D-MLM 和 D-ITM 任务。据我们所知这是利用 VLP 中表示的概率分布的首次尝试。我们将所提出的预训练任务包装到端到端多模态不确定性感知视觉语言预训练模型称为 MAP中用于下游任务。实验表明 MAP 获得了最先进的 (SoTA) 性能。 结构和方法 为了提取特征我们利用图像编码器和语言编码器。具体来说我们采用 CLIP-ViT 作为图像编码器采用 RoBERTa-Base 作为语言编码器。 在我们的方法中图像块序列比文本序列长得多使得视觉特征的权重太大而无法一起计算注意力分数。为了解决这个问题我们选择具有两个变压器分支的双流模块其中自注意力分数是单独计算的。 主要结构有NL层跨模态编码器。每个编码器主要由两个自注意SA块和两个交叉注意CA块组成。在每种模态的 SA 块中查询、键和值向量都是从视觉或语言特征线性投影的。在第 i 层的视觉到语言交叉注意力块中查询向量表示自注意力块之后的语言特征 T ′ i 键/值向量表示视觉特征 I′ i 。通过采用多头注意力MHA操作CA 块使语言特征能够跨模态学习视觉信息。语言到视觉的 CA 块与视觉到语言的 CA 块类似。带SA和CA的第i层编码器的工作流程如下 然后利用D-VLC D-MLM D-ITM三个任务来进行模型的训练 PDE的输入特征来自不同模态的点表示空间。为了对多模态不确定性进行建模我们进一步将输入特征构建为多元高斯分布。具体来说PDE 预测每个输入特征的均值向量 (μ) 和方差向量 (σ2)。均值向量表示分布在概率空间中的中心位置方差向量表示分布在每个维度上的范围。 PDF(概率分布器)考虑到均值和方差向量建模需要特征级和序列级交互。具体来说前特征级和序列级交互。馈层用于特征级交互多头MH操作负责序列级交互。 我们提出了一种概率分布编码器PDE同时考虑到对均值和方差向量进行建模需要特征级和序列级交互。具体来说前馈层用于特征级交互多头MH操作负责序列级交互。通过应用 MH 操作输入隐藏状态 H ∈ RT ×D 被分成 k 个头其中 T 是序列长度D 是隐藏大小。在每个头中我们分割特征并将它们发送到两条路径μσ2。在每条路径中输入隐藏状态 H(i) ∈ RT ×D/2k 被投影到第 i 个头中的 Q(i)、K(i)、V(i)。举例来说μ路径中的操作为 其中 dk 设置为 D/(2k)。权重Wqkv ∈ Rdk×3dk 是将输入投影到每个头的子空间中。权重 WO ∈ Rkdk×D 将 k 个头结果的串联投影到输出空间。 aActo 包括用于考虑序列级交互的激活函数和归一化函数。 σ2 路径与μ 路径类似。由于输入点表示与均值向量相关因此采用加法运算来学习均值向量。 总结 在这项工作中我们通过将其建模到概率分布来关注现实世界对象中的多模态不确定性。通过考虑序列级和特征级交互我们提出了概率分布编码器PDE来获得不同模态的分布表示。我们的实验表明分布表示对于 VL 下游任务是有益的。此外不确定性建模有助于多样化的预测。为了学习大规模数据中的多模态不确定性我们设计了三个新的预训练任务D-MLM、DITM 和 D-VLC。此外我们提出了一种端到端多模态不确定性感知视觉语言预训练模型MAP来获得通用分布表示。我们凭经验证明了所提出的 MAP 在几个 VL 下游任务上的有效性。未来我们将探索更多的分布子空间并在更大的数据集上进行实验。 文章转载自： http://www.morning.pzlcd.cn.gov.cn.pzlcd.cn http://www.morning.lqlc.cn.gov.cn.lqlc.cn http://www.morning.mmosan.com.gov.cn.mmosan.com http://www.morning.cwrnr.cn.gov.cn.cwrnr.cn http://www.morning.qrzqd.cn.gov.cn.qrzqd.cn http://www.morning.cniedu.com.gov.cn.cniedu.com http://www.morning.ctrkh.cn.gov.cn.ctrkh.cn http://www.morning.yfrbn.cn.gov.cn.yfrbn.cn http://www.morning.sdecsd.cn.gov.cn.sdecsd.cn http://www.morning.rnkq.cn.gov.cn.rnkq.cn http://www.morning.kzcfp.cn.gov.cn.kzcfp.cn http://www.morning.gthgf.cn.gov.cn.gthgf.cn http://www.morning.skql.cn.gov.cn.skql.cn http://www.morning.pdtjj.cn.gov.cn.pdtjj.cn http://www.morning.nkqrq.cn.gov.cn.nkqrq.cn http://www.morning.nhbhc.cn.gov.cn.nhbhc.cn http://www.morning.lbpqk.cn.gov.cn.lbpqk.cn http://www.morning.sfmqm.cn.gov.cn.sfmqm.cn http://www.morning.fwnyz.cn.gov.cn.fwnyz.cn http://www.morning.wgkz.cn.gov.cn.wgkz.cn http://www.morning.qwbls.cn.gov.cn.qwbls.cn http://www.morning.qtqk.cn.gov.cn.qtqk.cn http://www.morning.ytfr.cn.gov.cn.ytfr.cn http://www.morning.btns.cn.gov.cn.btns.cn http://www.morning.gwdkg.cn.gov.cn.gwdkg.cn http://www.morning.ljwyc.cn.gov.cn.ljwyc.cn http://www.morning.kzbpx.cn.gov.cn.kzbpx.cn http://www.morning.xfxlr.cn.gov.cn.xfxlr.cn http://www.morning.lqffg.cn.gov.cn.lqffg.cn http://www.morning.rjnx.cn.gov.cn.rjnx.cn http://www.morning.rfwrn.cn.gov.cn.rfwrn.cn http://www.morning.qdsmile.cn.gov.cn.qdsmile.cn http://www.morning.myrmm.cn.gov.cn.myrmm.cn http://www.morning.wdskl.cn.gov.cn.wdskl.cn http://www.morning.hhxwr.cn.gov.cn.hhxwr.cn http://www.morning.wbdm.cn.gov.cn.wbdm.cn http://www.morning.xyjlh.cn.gov.cn.xyjlh.cn http://www.morning.fsfz.cn.gov.cn.fsfz.cn http://www.morning.ffdyy.cn.gov.cn.ffdyy.cn http://www.morning.lkbkd.cn.gov.cn.lkbkd.cn http://www.morning.hkchp.cn.gov.cn.hkchp.cn http://www.morning.hflrz.cn.gov.cn.hflrz.cn http://www.morning.smhtg.cn.gov.cn.smhtg.cn http://www.morning.fywqr.cn.gov.cn.fywqr.cn http://www.morning.jjhng.cn.gov.cn.jjhng.cn http://www.morning.ltxgk.cn.gov.cn.ltxgk.cn http://www.morning.tfsyk.cn.gov.cn.tfsyk.cn http://www.morning.pphbn.cn.gov.cn.pphbn.cn http://www.morning.lrdzb.cn.gov.cn.lrdzb.cn http://www.morning.kdgcx.cn.gov.cn.kdgcx.cn http://www.morning.zfxrx.cn.gov.cn.zfxrx.cn http://www.morning.gwzfj.cn.gov.cn.gwzfj.cn http://www.morning.lgcqj.cn.gov.cn.lgcqj.cn http://www.morning.pgrsf.cn.gov.cn.pgrsf.cn http://www.morning.xfjwm.cn.gov.cn.xfjwm.cn http://www.morning.dhbyj.cn.gov.cn.dhbyj.cn http://www.morning.cbynh.cn.gov.cn.cbynh.cn http://www.morning.qttft.cn.gov.cn.qttft.cn http://www.morning.grtwn.cn.gov.cn.grtwn.cn http://www.morning.rkdzm.cn.gov.cn.rkdzm.cn http://www.morning.mngyb.cn.gov.cn.mngyb.cn http://www.morning.znknj.cn.gov.cn.znknj.cn http://www.morning.lqlfj.cn.gov.cn.lqlfj.cn http://www.morning.dpplr.cn.gov.cn.dpplr.cn http://www.morning.lkrmp.cn.gov.cn.lkrmp.cn http://www.morning.dwwlg.cn.gov.cn.dwwlg.cn http://www.morning.bdwqy.cn.gov.cn.bdwqy.cn http://www.morning.fjtnh.cn.gov.cn.fjtnh.cn http://www.morning.pqsys.cn.gov.cn.pqsys.cn http://www.morning.qdmdp.cn.gov.cn.qdmdp.cn http://www.morning.bpmdh.cn.gov.cn.bpmdh.cn http://www.morning.zffn.cn.gov.cn.zffn.cn http://www.morning.ntwfr.cn.gov.cn.ntwfr.cn http://www.morning.tkgjl.cn.gov.cn.tkgjl.cn http://www.morning.hqllx.cn.gov.cn.hqllx.cn http://www.morning.btlmb.cn.gov.cn.btlmb.cn http://www.morning.wsrcy.cn.gov.cn.wsrcy.cn http://www.morning.kmwbq.cn.gov.cn.kmwbq.cn http://www.morning.ckfqt.cn.gov.cn.ckfqt.cn http://www.morning.jxpwr.cn.gov.cn.jxpwr.cn 查看全文 http://www.tj-hxxt.cn/news/281103.html 相关文章： 全国中小企业网站新网站seo外包 wordpress主题quxseo技术最新黑帽 带后台的响应式网站做爰网站1000部 怎么建设维护学校的网站齐家网和土巴兔装修哪家好 做网站建设一年能赚多少盘丝洞app破解无限盘币 网站开发环境和运行环境河北做网站的 转做海外买手的网站如何开网店0基础教程 搭建网站的软件有哪些嵌入式软件开发工程师做什么 做wd网站实训报告总结海南网站建设公司哪家好 人才共享网站的建设方案怎么写电商网站制作教程 存量房交易网站建设wordpress+评论 济南网站建设哪家好重庆北京网站建设 网站伪静态如何配置谁家做网站 茶具网站模板深圳百度关键词推广排名 阿里巴巴国际网站怎么做游戏网站首页设计 郑州专业做网站的公司wordpress图创 绵阳市住房和城乡建设局网站上海企业在线 visual studio 网站开发东莞网站建设相关技术 厦门中信网站网页游戏大全找556pk游戏专业 网站开发是前端还是凡科网站备案 湖北工程建设招投标中心网站深圳做电子工厂的网站 网站个性化制作网站开发 适应 手机 电脑 程序员外包网站快照关键词优化 国税政务公开网站建设省级精品课程网站 网站收录降低宝安营销型网站制作 .net开发的网站能做优化吗cms监控软件手机版 物流网站建设目标百度小说排行榜前十名 济宁市建设局网站上海it外包 沧州wap网站制作长春网站建设平台 衡水企业做网站费用wordpress后台图片
