한글내용
(Korean Abstract) |
최근 자연어처리 분야에서는 레이블이 없는 대규모 코퍼스로부터 ELMo, BERT와 같은 대용량 언어모델을 학습한 후 질의 응답, 대화 시스템, 문서 요약 등 다양한 자연어 처리 분야에 적용하여 큰 성공을 이루었다. 이러한 사전 학습 언어 모델은 자연어 이해 태스크와 자연어 생성 태스크에 대한 모델로 나눌 수 있고 후자는 전자와 달리 인코더-디코더 구조로 디코더까지 사전학습하는 BART와 같은 언어모델이 연구되어 문서 요약, 기계 번역 등 자연어 생성 분야에서도 성능을 크게 향상하였다. 딥러닝기반한국어형태소분석은입력문장의각음절에대해[B,I]가포함된품사태그를부착하여형태소의경계를결정하고 품사를 부여하는 순차 태깅 방법 혹은 인코어에서 입력 문장을 인코딩한 후 디코더에서 형태소와 품사를 생성하는 생성 기반 방법으로 주로 연구되었다. 본 논문에서는 생성 모델에서 사전 학습된 인코더를 효과적으로 활용할 수 있도록 트랜스포머 디코더 구조를 변형한 인터리브 디코더를 한국어 형태소 분석에 적용하였다. 한국어 BERT 모델의 인코더 파라미터를 이용해 인터리브 디코더를 초기화 한 후 생성 기반으로 형태소 분석을 수행하는 인터리브-디코더 언어모델을 이용한 시퀀스-투-시퀀스 기반의 형태소 분석 모델을 제안하고 실험 결과를 보인다. |
