| 한글제목(Korean Title) |
ALBERT를 이용한 한국어 자연어처리: 감성분석, 개체명 인식, 기계독해 |
| 영문제목(English Title) |
ALBERT for Korean Natural Language Processing: Named Entity Recognition, Sentiment Analysis, Machine Reading Comprehension |
| 저자(Author) |
Young-Hoon Lee
Seung-Hoon Na
Yun-Su Choi
Hye-Woo Lee
Du-Seong Chang
이영훈
나승훈
최윤수
이혜우
장두성
|
| 원문수록처(Citation) |
VOL 47 NO. 01 PP. 0332 ~ 0334 (2020. 07) |
한글내용
(Korean Abstract) |
최근 자연어처리 분야에서는 Transformer 기반의 언어모델을 이용하여 사전학습을 진행하고, finetuning을 적용함으로 다양한 태스크에서 SOTA(State Of The Art)를 이루고 있다. 이러한 언어모델은 대용량의 말뭉치 데이터와 많은 수의 파라미터를 사용하여 학습을 진행하는데, 학습을 진행함에 있어 자원의 한계가 존재하기에 큰 모델의 학습에는 어려움이 있다. 본 논문에서는 이러한 문제를 해결하기 위해 모델의 파라미터의 수를 줄인 AL-RoBERTa를 제안하고, 여러 한국어 태스크에 적용함으로 모델의 성능을 측정하여 효과성을 보인다. |
영문내용
(English Abstract) |
|
| 키워드(Keyword) |
|
| 파일첨부 |
PDF 다운로드
|
