ACL是自然语言处理领域影响力最大的国际学术组织( 四 )
【ACL是自然语言处理领域影响力最大的国际学术组织】PAIR:LeveragingPassage-CentricSimilarityRelationforImprovingDensePassageRetrieval
近年来 , 稠密段落检索(densepassageretrieval)已经成为多个自然语言处理和信息检索任务中召回相关信息的主流方法 , 对偶式检索模型是其中采用最为广泛的模型结构 。以前的相关工作 , 主要考虑了以查询(query)为中心的相似度关系 , 即查询和段落之间的相似度(下图a) , 而忽略了段落之间的相似度 。本文提出了一种同时以查询为中心和以段落为中心的相似度关系度量方法(下图b) , 即通过引入段落正负例之间的相似度关系 , 来更好地学习查询和段落的语义表示 。我们在MSMARCO和NaturalQuestions两个公开数据集上进行了实验 , 证明了方法的有效性 , 并验证了模型学习到了以段落为中心的相似度关系 。
文章图片
文章图片
相似度关系示意图:
(a)以查询为中心的相似度关系;
(b)同时以查询为中心的相似度关系和以段落为中心的相似度关系 。
11、基于同步流式语音识别辅助的直接端到端语音同传
DirectSimultaneousSpeech-to-TextTranslationAssistedbySynchronizedStreamingASR
同声传译(simultaneousspeechtotexttranslation)在平时生活中有着广泛的应用场景 。目前 , 传统的级联式解决方案利用流式语音识别模型(streamingASR)和文本机器同传模型(SimultaneousMT)将源语言的语音信号翻译至目标语言的文字 。这种级联式的方法会传递因语音识别而导致的错误 , 同时会引入额外的语音识别和翻译模块间的时延 。最近一些端到端的方法尝试直接将源语音翻译成目标文本 , 但是在语音同传场景下 , 普通的语音翻译模型无法像文本同传一样准确掌握源句中的词数以及词的边界 , 而无法准确的执行解码策略 。我们提出了一种同时具有级联和端到端方法优点的新解决方案 。我们分别使用两个同步的解码器用以执行流式语音识别和语音翻译(speechtranslation) , 并且这两个解码器共享同一个语音编码器 。流式语音识别可以精准的判断词数和词边界 , 从而实时指导语音翻译的解码策略 。语音翻译解码器仅从语音信号中直接获得翻译信息 , 从而降低了误差传播和翻译时延 。我们通过多任务学习对模型进行训练 。在MuST-C数据集上进行的En-to-De和En-to-Es实验表明 , 我们提出的方法在相同的时延下取得了更好的翻译质量 。
文章图片
文章图片
文章图片
文章图片
12、可学习知识引导的事件因果关系识别数据增强方法
LearnDA:LearnableKnowledge-GuidedDataAugmentationforEventCausalityIdentification
事件因果关系识别(EventCausalityIdentification,ECI)旨在识别文本中事件之间的因果关系 , 可以为许多自然语言处理任务提供重要线索 , 如逻辑推理、问答系统等 。ECI任务通常被建模为一个分类问题 , 即识别一个句子中两个事件之间是否存在因果关系 。
目前大多数ECI方法采用监督学习的范式 。虽然这些方法取得了很好的性能 , 但通常需要大规模的标注训练数据 。然而 , 现有的事件因果关系识别数据集相对较少 。小规模的标注数据集阻碍了高性能事件因果关系识别模型的训练 , 无法提供充足的训练数据支撑模型准确理解文本中的事件关系语义 。
本文探索了一个知识融合的数据增强方法 , 利用大量抽取的因果相关事件生成新训练数据 , 解决ECI任务训练数据缺失问题 。该方法包含两个框架 , 知识增强的事件因果关系数据自动标注框架和知识引导的事件因果关系数据生成框架 。其中 , 知识引导的事件因果关系数据生成框架(LearnableDataAugmentationframework,LearnDA) , 利用对偶学习机制 , 将事件因果关系识别器和数据生成器对偶约束 , 从识别过程中学习如何生成任务相关的新数据 , 从生成过程中学习如何更准确地理解因果语义 , 生成高质量表达事件因果语义的新训练数据 。
- 原神心海是几星(原神心海角色属性介绍)
- 今年的iphonese,还是你熟悉的模样
- 原神雷神是什么定位(原神手游雷神定位分析)
- 原神无尽骤战高分打法是什么(原神无尽骤战玩法技巧分享)
- 崩坏3V5.0版本累计消费活动是什么(崩坏3V5.0版本夏日活动介绍)
- 249克!开箱道通EVO Nano+袖珍无人机:夜景是亮点
- 浓缩洗涤剂,还是老牌国货一轻日化好~
- 饿了么是不是只能用支付宝(饿了么平台运营详细解说)
- 微信朋友验证消息是怎么回事(?微信查看好友添加来源步骤)
- 妄想山海神树蕴养玩法是什么(妄想山海神树蕴养玩法思路介绍)
