정보과학회논문지 (Journal of KIISE)
Current Result Document : 7 / 40
이전건
다음건 
| 한글제목(Korean Title) |
포지션 인코딩 기반 S3-Net를 이용한 한국어 기계 독해 |
| 영문제목(English Title) |
Korean Machine Reading Comprehension using S3-Net based on Position Encoding |
| 저자(Author) |
박천음
이창기
김현기
Choeneum Park
Changki Lee
Hyunki Kim
|
| 원문수록처(Citation) |
VOL 46 NO. 03 PP. 0234 ~ 0240 (2019. 03) |
한글내용
(Korean Abstract) |
S3-Net은 Simple Recurrent Unit (SRU)과 자기 자신의 RNN sequence에 대하여 어텐션 가중치(attention weight)를 계산하는 Self-Matching Networks를 기반으로 기계 독해 질의 응답을 해결하는 딥 러닝 모델이다. 기계 독해 질의 응답에서 질문에 대한 답은 문맥 내에서 발생하는데, 하나의 문맥은 여러 문장으로 이뤄지기 때문에 입력 시퀀스의 길이가 길어져 성능이 저하되는 문제가 있다. 본 논문에서는 이와 같이 문맥이 길어져 성능이 저하되는 문제를 해결하기 위하여 문장 단위의 인코딩을 추가한 계층모델과, 단어 순서 정보를 확인하는 포지션 인코딩을 적용한 S3-Net을 제안한다. 실험 결과, 본 논문에서 제안한 S3-Net 모델이 한국어 기계 독해 데이터 셋에서 기존의 S2-Net보다 우수한(single test) EM 69.43%, F1 81.53%, (ensemble test) EM 71.28%, F1 82.67%의 성능을 보였다.
|
영문내용
(English Abstract) |
S3-Net is a deep learning model that is used in machine reading comprehension question answering (MRQA) based on Simple Recurrent Unit and Self-Matching Networks that calculates attention weight for own RNN sequence. The answers to the questions in the MRQA occur within the passage, because any passage is made up of several sentences, so the length of the input sequence becomes longer and the performance deteriorates. In this paper, a hierarchical model that adds sentence-level encoding and S3-Net that applies position encoding to check word order information to solve the problem of long-term context degradation are proposed. The experimental results show that the S3-Net model proposed in this paper has a performance of 69.43% in EM and 81.53% in F1 for single test, and 71.28% in EM and 82.67 in F1 for ensemble test.
|
| 키워드(Keyword) |
S3-Net
한국어 기계독해
포지션 인코딩
딥러닝
S3-Net
Korean machine reading comprehension
position encoding
deep learning
|
| 파일첨부 |
PDF 다운로드
|
