한글내용
(Korean Abstract) |
연합학습(Federated Learning; FL)은 대규모로 분산되어 있는 장치들로부터 모델을 학습하는 기계 학습 패러다임 중 하나이다. 최근 FL 연구의 경향 및 발전은 최적화 방법을 변경하여 학습 절차를 개선하는 방향으로 이루어져왔다. 그러나 기존 문헌들에서 간과되고 있는 사실은 중앙 집중식 접근 방식에서 사용되는 모델 구조 및 활성화 함수 등을 검증없이 연합학습 접근 방식에 적용하고 있다는 점이다. 본 논문에서는 이 문제를 지적하고 연합학습 환경에서 활성화 함수의 변화에 따른 성능 변화와 다양한 분석 결과를 제공한다. 첫째, 중앙 집중식 접근 방식에서 성능이 좋은 활성화 함수가 연합학습 접근 방식에서 다른 경향을 가짐을 보인다. 둘째, 연합학습 환경에서 활성화 함수 설정과 네트워크 깊이 변화에 따라 성능저하가 일어남을 보인다. 마지막으로, 연합학습의 주요한 두 요소인 클라이언트 참여 비율과 로컬 학습 횟수를 다양하게 변화시키며 적합한 활성화 함수를 선택하는 방법을 제시한다. 관찰을 기반으로 한 우리의 분석은 연합학습을 위한 모델 설계에 대한 통찰력을 제공한다. |
