欢迎您访问 最编程 本站为您分享编程语言代码,编程技术文章!
您现在的位置是: 首页

笔记:用于连续关系提取的一致性表征学习

最编程 2024-04-05 22:27:28
...

Consistent Representation Learning for Continual Relation Extraction

  • 来源:Zhao et al.,ACL 2022.

  • 任务:Continual relation extraction (CRE)

  • 动机:传统的关系抽取RE(其实更像是关系分类RC)总是在一个假设下即预定义的固定关系以及在固定数据集训练,然而真实世界关系并不是一个固定的预定义关系集能够涵盖的,现实世界关系是不断增长的。因此,连续关系提取(CRE)的目的是在不忘记旧关系的同时,利用新关系数据不断训练模型。

  • 方法:CRE的核心问题在于灾难性遗忘,搞了新的忘了旧的。本文使用memory-based方法解决灾难性遗忘的问题,之前的memory-based方法总是会过拟合存储的样本且在不平衡的数据集中表现不好,为了克服这些问题,本文提出了一个新的CRE方法--使用监督对比学习和知识蒸馏来为持续的关系学习,学习一致的关系表示。

    [注]:没接触过CRE,这篇就简单看了下摘要介绍的相关工作,写在这里插个眼,以后了解了解。

原文地址:https://www.cnblogs.com/n-ooo/p/16407916.html