Entity Structure Within and Throughout: Modeling Mention Dependencies for Document-Level Relation Extraction

https://arxiv.org/pdf/2102.10249.pdf

Motivation

Document-level relation extraction task is challenging because..

  1. given a document, predict all possible relation between entitles (or mentions)

→ multi-label classification

  1. coreference information such as “it”, “the song”

  2. must consider both intra-, and inter-sentence relations

Entity Structure

  1. Intra + coref: 동일한 문장 내에서의 동일한 entity

  2. Intra + relate: 동일한 문장 내에서의 관계 있는 entity

  3. Inter + coref: 동일하지 않은 문장에서의 동일한 entity

  4. Inter + relate: 동일하지 않은 문장에서의 관계 있는 entity

  5. IntraNE: 동일한 문장 내에서의 a, the 와 같은 단어

  6. NA: 동일하지 않은 문장에서의 a, the 와 같은 단어, 중요하지 않다고 판단

SSAN Model

Untitled

Structured Self-Attention Network(SSAN) 구조의 가장 큰 특징은 entity structure와 연결되는 Transformation 부분(Biasterm).

Entity structure는 one hot vector 형식으로 생성되고, 빨간색 박스는 intra 부분을 고려하며 파란색 박스는 inter 부분을 고려한다.