Current Result Document : 11 / 11
| 한글제목(Korean Title) |
Pytorch RNN 알고리즘의 패디드 데이터 학습 문제 개선 방안 |
| 영문제목(English Title) |
The Method to solve Learning Problem of Padded Data using Pytorch RNN |
| 저자(Author) |
홍승후
현세민
이강윤
SeungHoo Hong
SeMin Hyun
KangYoon Lee
|
| 원문수록처(Citation) |
VOL 22 NO. 01 PP. 0145 ~ 0146 (2021. 04) |
한글내용
(Korean Abstract) |
Tensorflow에서 구현된 프로그램을 pytorch로 변환하는 경우 발생하는 문제들이 있다. 이 중 IMDb 데이터에 pad를 뒤에 붙이고 tensorflow의 RNN를 사용하는 프로그램을 pytorch으로 동일하게 구현했을 때 pytorch에서 일어나는 학습문제를 소개한다. 그리고 pytorch와 tensorflow의 RNN에서 모두 vanishing gradient 이 일어났지만tensorflow에서는 우수한 성능이 나옴을 보이고 그 원인을 시계열 데이터에 붙는 pad에 대한 pytorch의 내부 처리방식에서 찾아 pytorch의 pack_sequence, pad_first를 이용한 완화 방법을 제안한다.
|
영문내용
(English Abstract) |
|
| 키워드(Keyword) |
|
| 파일첨부 |
PDF 다운로드
|
