2016년 동계학술발표회
Current Result Document : 6 / 6
| 한글제목(Korean Title) |
가중치행렬 재정렬: GPU를 사용하는 딥 러닝 어플리케이션의 신경망 최적화 기법 연구 |
| 영문제목(English Title) |
Neural Network Optimization for GPU-based Deep Learning Applications Using Weight Matrix Rearrangement |
| 저자(Author) |
김주현
김한준
Juhyun Kim
Hanjun Kim
|
| 원문수록처(Citation) |
VOL 43 NO. 02 PP. 0045 ~ 0047 (2016. 12) |
한글내용
(Korean Abstract) |
GPU의 대규모 병렬처리 능력 덕분에 딥 러닝의 신경망 연산 속도가 개선되었지만, 신경망의 메모리 오버헤드와 높은 대역폭 수요에 의한 병목 현상 때문에 딥 러닝 어플리케이션의 속도가 저하되고 있다. 본 연구는 딥 러닝 어플리케이션의 효율성을 향상시키기 위해 GPU환경에서 적용 가능한 신경망 최적화 기법을 제안한다. 이 기법은 warp기반 GPU의 구조적 특성에 착안하여, 신경망 속 뉴런의 퇴화된 연결에서 발생하는 무의미한 연산들을 생략하고, 비슷한 수의 연결을 갖는 뉴런을 같은 warp에 배정하도록 신경망 가중치행렬을 ‘재정렬(rearrange)’하여 메모리 오버헤드를 줄이고 신경망의 계산 속도를 향상시킨다. 본 연구에서는 이 신경망 최적화 기법을 딥 러닝 어플리케이션에 적용시켜, 신경망의 인지적 능력에 손상을 가하지 않고도 신경망의 layer 연산 시간을 단축시키고 메모리 오버헤드를 감소시켰다.
|
영문내용
(English Abstract) |
|
| 키워드(Keyword) |
|
| 파일첨부 |
PDF 다운로드
|
