Suppr超能文献

基于深度图学习并具备语义角色标签信息利用能力的文本语义相似性计算。

Computing semantic similarity of texts based on deep graph learning with ability to use semantic role label information.

机构信息

Department of Computer Engineering, Faculty of Electrical and Computer Engineering, University of Tabriz, Tabriz, 51666-16471, Iran.

出版信息

Sci Rep. 2022 Aug 30;12(1):14777. doi: 10.1038/s41598-022-19259-5.

Abstract

We propose a deep graph learning approach for computing semantic textual similarity (STS) by using semantic role labels generated by a Semantic Role Labeling (SRL) system. SRL system output has significant challenges in dealing with graph-neural networks because it doesn't have a graph structure. To address these challenges, we propose a novel SRL graph by using semantic role labels and dependency grammar. For processing the SRL graph, we proposed a Deep Graph Neural Network (DGNN) based graph-U-Net model that is placed on top of the transformers to use a variety of transformers to process representations obtained from them. We investigate the effect of using the proposed DGNN and SRL graph on the performance of some transformers in computing STS. For the evaluation of our approach, we use STS2017 and SICK datasets. Experimental evaluations show that using the SRL graph accompanied by applying the proposed DGNN increases the performance of the transformers used in the DGNN.

摘要

我们提出了一种基于深度图学习的方法,通过使用语义角色标注(SRL)系统生成的语义角色标签来计算语义文本相似度(STS)。SRL 系统的输出在处理图神经网络时存在重大挑战,因为它没有图结构。为了解决这些挑战,我们提出了一种新的 SRL 图,该图使用语义角色标签和依存语法。为了处理 SRL 图,我们提出了一个基于深度图神经网络(DGNN)的图-U-Net 模型,该模型位于转换器之上,以使用各种转换器来处理从它们获得的表示。我们研究了使用所提出的 DGNN 和 SRL 图对计算 STS 中一些转换器性能的影响。对于我们方法的评估,我们使用 STS2017 和 SICK 数据集。实验评估表明,使用 SRL 图并应用所提出的 DGNN 可以提高 DGNN 中使用的转换器的性能。

https://cdn.ncbi.nlm.nih.gov/pmc/blobs/1285/9428166/f3a9c062966f/41598_2022_19259_Fig1_HTML.jpg

文献AI研究员

20分钟写一篇综述,助力文献阅读效率提升50倍。

立即体验

用中文搜PubMed

大模型驱动的PubMed中文搜索引擎

马上搜索

文档翻译

学术文献翻译模型,支持多种主流文档格式。

立即体验