首页 >> 大全

Joint Extraction of Entities and Relatio

2024-01-05 大全 24 作者:考证青年

本文将关系抽取任务转换为两个任务,HE抽取(头实体抽取)和TER抽取(尾实体和关系)

前一个子任务是区分所有可能涉及到关系的头实体,后一个任务是识别每个提取的头实体对应的尾实体和关系,然后基于本文提出的基于span的标记方法将两个子任务进一步分解为多个序列标记任务,采用分层边界标记HBT和多跨度解码算法解决这些问题。本文的第一步不是提取所有实体,而是识别可能参与目标三元组的头实体,从而减轻冗余实体对的影响。

Model 标注策略

对于每个识别出的头实体,TER提取也分解为两个序列标注任务,利用跨度边界提取尾实体并同时预测关系。

第一个序列标记子任务主要标记尾实体的开始字标记的关系类型,第二个子任务标记结束字标记的关系类型。

_Joint Extraction of Entities and Relatio_Joint Extraction of Entities and Relatio

模型

层次边界标记器HBT

使用LSTM编码。标注开始位置时,单词 x i x_i xi​的标签被预测为:

h i h_i hi​是token的隐藏表示, a i a_i ai​是辅助向量,从整个句子中学习到的全局表示

x i x_i xi​的结束标签可以通过如下计算:

这里又增加了一个位置向量 p i s e p_i^{se} pise​,在预测结束位置时能够感知起始位的隐藏状态,因此引入了 h i s t a h_i^{sta} hista​

抽取模型

这个过程和级联二进制和multi-QA的方法几乎一样,或者说这三篇文章的思路都是一个思路

启示 在没有用BERT的情况下达到了现在的分数,确实厉害,不过还是老生常谈的问题,时间复杂度太高了感觉关系抽取太卷了,作为NLP,一个任务需要跑个十几个和二十多个小时,算力不充足的我太难受了,大家能run的就抓紧run吧。

关于我们

最火推荐

小编推荐

联系我们


版权声明:本站内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 88@qq.com 举报,一经查实,本站将立刻删除。备案号:桂ICP备2021009421号
Powered By Z-BlogPHP.
复制成功
微信号:
我知道了