정보과학회논문지 (Journal of KIISE)
Current Result Document :
| 한글제목(Korean Title) |
BERT 기반 End-to-end 신경망을 이용한 한국어 상호참조해결 |
| 영문제목(English Title) |
Korean End-to-end Neural Coreference Resolution with BERT |
| 저자(Author) |
김기훈
박천음
이창기
김현기
Kihun Kim
Cheonum Park
Changki Lee
Hyunki Kim
|
| 원문수록처(Citation) |
VOL 47 NO. 10 PP. 0942 ~ 0947 (2020. 10) |
한글내용
(Korean Abstract) |
상호참조해결은 주어진 문서에서 상호참조해결 대상이 되는 멘션(mention)을 식별하고, 같은 개체(entity)를 의미하는 멘션을 찾아 그룹화하는 자연어처리 태스크이다. 한국어 상호참조해결에서는 멘션 탐지와 상호참조해결을 동시에 진행하는 end-to-end 모델과 포인터 네트워크 모델을 이용한 방법이 연구되었다. 구글에서 공개한 BERT 모델은 자연어처리 태스크에 적용되어 많은 성능 향상을 보였다. 본 논문 에서는 한국어 상호참조해결을 위한 BERT 기반 end-to-end 신경망 모델을 제안하고, 한국어 데이터로 사전 학습된 KorBERT를 이용하고, 한국어의 구조적, 의미적 특징을 반영하기 위하여 의존구문분석 자질과 개체명 자질을 적용한다. 실험 결과, ETRI 질의응답 도메인 상호참조해결 데이터 셋에서 CoNLL F1 (DEV) 71.00%, (TEST) 69.01%의 성능을 보여 기존 연구들에 비하여 높은 성능을 보였다. |
영문내용
(English Abstract) |
Coreference resolution is a natural language task that identifies a mention that is a coreference resolution in a given document and finds and clusters the mention of the same entity. In the Korean coreference resolution, a method using the end-to-end model that simultaneously performs mention detection and mention clustering, and another method pointer network using the encoder-decoder model were used. The BERT model released by Google has been applied to natural language processing tasks and has demonstrated many performance improvements. In this paper, we propose a Korean end-to-end neural coreference resolution with BERT. This model uses the KorBERT pre-trained with the Korean data and applies dependency parsing results and the named entity recognition feature to reflect the structural and semantic characteristics of the Korean language. Experimental results show that the performance of the CoNLL F1 (DEV) 71.00% and (TEST) 69.01% in the ETRI Q & A domain data set was higher than the previous studies. |
| 키워드(Keyword) |
딥 러닝
상호참조해결
BERT
자연어처리
deep learning
coreference resolution
BERT
natural language processing
|
| 파일첨부 |
PDF 다운로드
|
