NIL-Aware KnowBERT를 이용한 개체 연결 모델의 성능 향상

홈 > 연구문헌 > 학술대회 프로시딩 > 한국정보과학회 학술대회 > KSC 2020

한글제목(Korean Title)	NIL-Aware KnowBERT를 이용한 개체 연결 모델의 성능 향상
영문제목(English Title)	Nil-aware KnowBERT for Knowledge-enhanced Entity Linking
저자(Author)	민진우 나승훈 김현호 김선훈 강인호 Jinwoo Min Seung-Hoon Na Hyun-Ho Kim Seon-Hoon Kim Inho Kang
원문수록처(Citation)	VOL 47 NO. 02 PP. 0284 ~ 0286 (2020. 12)
한글내용 (Korean Abstract)	최근 딥러닝 기반 자연어 처리는 대용량의 코퍼스로부터 문맥 단어 표현을 얻고 이를 다양한 자연어 처리 분야에서 파라미터를 미세조정(fine-tuning)하는 방식으로 적용하여 놀라운 성능 향상을 가져왔다. 다양한 지식 베이스로부터 엔티티 링커모듈을 학습한 후 링커 모듈을 통해 생성된 후보 엔티티 점수를 반영하여 문맥 단어 표현을 업데이트하는 KnowBERT는 엔티티 관련 태스크에서 기존의 BERT 계열의 모델보다 높은 성능을 보였다. 본 연구에서는 KnowBERT 모델의 내부 링킹 모듈에서 NIL 멘션을 탐지하고 해당 멘션에 대해서는 점수를 반영하지 않고 재문맥화를 수행하는 NIL-Aware KnowBERT 모델을제안하고 End-to-End 엔티티 링킹 모델에 적용하여 기존의 한국어 RoBERTa 기반 모델 대비 F1 기준 0.28% 개선된 성능을 보였다.
영문내용 (English Abstract)
키워드(Keyword)
파일첨부	PDF 다운로드