2016년 컴퓨터종합학술대회
Current Result Document : 11 / 11
| 한글제목(Korean Title) |
제한된 수의 정밀도를 갖는 메모리 네트워크 성능 분석 |
| 영문제목(English Title) |
Performance analysis of Memory Network with limited numeric precision |
| 저자(Author) |
박성식
이세일
김세준
최혁준
윤성로
Seongsik Park
Seil Lee
Seijoon Kim
Hyeokjun choe
Sungroh Yoon
|
| 원문수록처(Citation) |
VOL 43 NO. 01 PP. 0918 ~ 0920 (2016. 06) |
한글내용
(Korean Abstract) |
인공신경망을 사용하는 딥러닝은 여러 과제에서 좋은 성능을 보이고 있지만 많은 데이터와 계산이 요구된다. 또한, 인공신경망의 구조가 복잡해질수록 학습해야하는 파라미터 수도 늘어난다. 많은 계산을 빠르게 수행하기 위해 주로 CPU/GPU를 사용한 분산컴퓨팅 환경에서 부동 소수점을 사용하여 인공신경망을 학습한다. 파라미터를 부동 소수점으로 표현하게 되면 연산에 필요한 하드웨어와 파라미터 저장 공간이 커져 하드웨어 자원이 제한된 환경에서 딥러닝을 수행하는데 제약이 된다. 부동 소수점 대신 제한된 수의 정밀도를 갖는 고정 소수점을 사용하게 되면 연산에 필요한 하드웨어 자원과 파라미터 저장 공간이 줄어들어 하드웨어 비용과 전력 소모를 줄일 수 있고, 이로 인해 하드웨어 제약이 있는 환경에서도 딥러닝을 수행할 수 있게 된다. 메모리 네트워크는 질의/응답 과제를 수행하기 위해 제안된 구조이다. 이 논문에서는 여러 구성의 제한된 수의 정밀도로 메모리 네트워크의 정확도를 실험하고 분석해 보았다. 실험 결과 5% 미만의 검증 정확도 감소로 파라미터 저장 공간을 50% 줄일 수 있었다
|
영문내용
(English Abstract) |
|
| 키워드(Keyword) |
|
| 파일첨부 |
PDF 다운로드
|
