当前位置: 首页 > news >正文

公司网站建设服务公司企业营销策划实训报告

公司网站建设服务公司,企业营销策划实训报告,二手书交易网站开发背景,南宁网站建设费用🍎个人主页:小嗷犬的个人主页 🍊个人网站:小嗷犬的技术小站 🥭个人信条:为天地立心,为生民立命,为往圣继绝学,为万世开太平。 基本信息 标题: A Token-level Contrastiv…

🍎个人主页:小嗷犬的个人主页
🍊个人网站:小嗷犬的技术小站
🥭个人信条:为天地立心,为生民立命,为往圣继绝学,为万世开太平。


基本信息

标题: A Token-level Contrastive Framework for Sign Language Translation
作者: Biao Fu, Peigen Ye, Liang Zhang, Pei Yu, Cong Hu, Yidong Chen, Xiaodong Shi
发表: ICASSP 2023
arXiv: https://arxiv.org/abs/2204.04916

基本信息

摘要

手语翻译(SLT)是一种有望弥合聋人与听力人士之间沟通鸿沟的技术。

最近,研究人员采用了需要大规模语料库进行训练的神经机器翻译(NMT)方法来实现SLT。

然而,公开可用的SLT语料库非常有限,这导致了token表示的崩溃和生成token的不准确。

为了缓解这一问题,我们提出了ConSLT,这是一种新的针对手语翻译的token级对比学习框架,通过将token级对比学习融入SLT解码过程来学习有效的token表示。

具体来说,ConSLT在解码过程中将每个token及其由不同dropout掩码生成的对应token视为正对,然后随机从不在当前句子中的词汇中抽取K个token来构建负例。

我们在两个基准(PHOENIX14T和CSL-Daily)上进行了全面的实验,包括端到端和级联设置。

实验结果表明,ConSLT比强大的基线实现了更好的翻译质量。

Statistics of SLT and NMT dataset. The size of SLT dataset PHOENIX14T is several orders of magnitude smaller than NMT dataset WMT18 En-De

方法

Visualization of token embeddings

Illustration of the ConSLT

对于每个token,我们通过不同的dropout噪声构建其正例,并从候选token集 C \mathcal{C} C 中随机采样 K K K 个token作为负例,其中 C ⊂ V ∖ S \mathcal{C} \subset \mathcal{V} \setminus \mathcal{S} CVS 表示在词汇表 V \mathcal{V} V 中但不在当前句子 S \mathcal{S} S 中的token。

实验

主实验

Results on PHOENIX14T

Results on CSL-Daily

消融实验

Ablation study on the PHOENIX14T test set

w/o CL 表示没有对比学习方法,S-CL 表示句子级对比学习方法,T-CL 表示token级对比学习方法。cos 表示使用余弦相似度作为距离度量,KL 表示使用KL散度作为距离度量。

BLEU scores with different sampling strategies of negative samples on the PHOENIX14T test set

总结

在这篇论文中,我们从表示学习的角度提供了一种缓解SLT低资源问题的新的见解。

我们引入了ConSLT,这是一种针对SLT的基于token的对比学习框架,旨在通过将当前句子之外的词汇中的token推远来学习有效的token表示。

值得一提的是,ConSLT可以应用于不同的模型结构。

我们还探讨了各种对比策略的影响,并提供了细粒度分析来解释我们的方法是如何工作的。

实验结果表明,对比学习可以显著提高SLT的翻译质量。

在未来,我们将进一步研究手语视频和口语文本之间的跨模态关系。

http://www.tj-hxxt.cn/news/28923.html

相关文章:

  • 怎么做素材网站爱客crm
  • 信息推广网站点不开的那种怎么做谷歌app下载
  • 网站建设总流程合肥百度推广排名优化
  • wordpress is福清seo
  • 韩国有哪些专业做汽车的网站?官方百度app下载安装
  • 如何更改网站标签logo中国搜索引擎市场份额
  • 网站开发毕业设计百度seo快排软件
  • 长沙公司做网站找哪个公司好优化大师windows
  • 哪些网站可以做问卷调查赚钱百度关键词优化平台
  • 环保网站模板下载上海知名的seo推广咨询
  • 做搞笑图片的网站百度今日小说搜索风云榜
  • 企业网站的建设目的包含什么历史权重查询
  • 如何做网站二维码查网站流量查询工具
  • 美国为什么要放新冠病毒长沙网站托管优化
  • 常州市做网站的公司优化seo搜索
  • 阿里巴巴外贸网站论坛小红书推广引流
  • 济南建站公司价格查排名
  • 杭州网络推广公司排名seo搜索排名
  • 网站新媒体推广怎么做百度网页版主页网址
  • 网站建设客服工作兰州网络推广电话
  • 做暧小视频免费网站百度招聘官网
  • seo综合查询站长工具怎么用武汉搜索排名提升
  • 深圳网站建设制作设计公司网络营销公司热线电话
  • 上海高端网站建设制作培训课程设计
  • 天津网站搜索排名杭州关键词排名工具
  • 网站运营推广主要做什么的网上互联网推广
  • 自己做网站的步骤国内疫情最新情况
  • 长沙中小企业网站制作西地那非片
  • 武汉网络推广专员东莞搜索优化
  • 凡科企业网站如何建设百度网页版登录