| 한글제목(Korean Title) |
KnowBERT를 이용한 지식 그라운딩 (Knowledge-grounded)된 한국어 자연언어처리 |
| 영문제목(English Title) |
KnowBERT for Knowledge-grounded natural language processing of Korean |
| 저자(Author) |
Jinwoo Min
Seung-Hoon Na
Jong-Hoon Shin
Young-Kil Kim
민진우
나승훈
신종훈
김영길
|
| 원문수록처(Citation) |
VOL 47 NO. 01 PP. 0446 ~ 0448 (2020. 07) |
한글내용
(Korean Abstract) |
최근 딥러닝을 이용한 자연어 처리는 BERT, RoBERTa와 같은 트랜스포머 기반의 문맥을 고려한 단어 표현을 사전 학습하는 언어 모델을 얻고 이를 응용 테스크에 파라미터를 미세조정하는 방식으로 적용하여 다양한 자연어 처리 분야에서 높은 성능 향상을 가져왔다. 하지만, 이러한 언어 모델은 실세계의 엔티티 정보가 그라운딩(grounding)된 모델이 아니며 실세계의 엔티티 정보를 반영할 수 없는 단점이 존재한다. 본 연구에서는 한국어 위키피디아를 지식 베이스로 하여 기존의 사전학습된 RoBERTa 모델에 대해 엔티티 정보를 그라운딩(Grounding)하는 한국어 KnowBERT 모델을 제안하고 실험 결과 엔티티 타이핑, 엔티티 링킹 테스크에서 기존의 RoBERTa를 뛰어넘는 성능을 보였다. |
영문내용
(English Abstract) |
|
| 키워드(Keyword) |
|
| 파일첨부 |
PDF 다운로드
|
