Current Result Document :
| 한글제목(Korean Title) |
분산 딥러닝 환경에서의 학습 워크로드간 자원 소모패턴의 수치적 분석 |
| 영문제목(English Title) |
Numerical Analysis on Resource Consumption Patterns of Distributed Deep Learning Workloads |
| 저자(Author) |
최예찬
신창용
유연호
유혁
Yeechan Choi
Changyong Shin
Yeonho Yoo
Chuck Yoo
|
| 원문수록처(Citation) |
VOL 48 NO. 02 PP. 1377 ~ 1379 (2021. 12) |
한글내용
(Korean Abstract) |
최근 거대 딥러닝 모델 학습의 가속을 위해 다수의 GPU를 사용하여 학습을 진행하는 분산 딥러닝이 주목받고 있다. 분산 딥러닝은 딥러닝 모델의 파라미터 업데이트 과정에서 각 워커가 학습한 그래디언트를 공유하기 때문에 워커간 네트워크 통신이 필수적이다. 이로 인해 GPU와 네트워크 자원이 반복적으로 교차되어 사용되는, 주기적인 자원 소모패턴을 보인다. 본 논문에서는 딥러닝 모델과 분산학습환경을 변경하며 자원 소모패턴을 측정하고 수치적으로 분석한다. 또한, 본 논문의 연구결과가 향후 분산 딥러닝의 학습속도 개선과 GPU 활용률의 향상에 기여하는 방법을 모색한다. |
영문내용
(English Abstract) |
|
| 키워드(Keyword) |
|
| 파일첨부 |
PDF 다운로드
|
