정보과학회논문지 (Journal of KIISE)
Current Result Document :
| 한글제목(Korean Title) |
컨볼루션 뉴럴 네트워크를 위한 알파-인테그레이션 풀링 |
| 영문제목(English Title) |
Alpha-Integration Pooling for Convolutional Neural Networks |
| 저자(Author) |
엄하영
최희열
Hayoung Eom
Heeyoul Choi
|
| 원문수록처(Citation) |
VOL 48 NO. 07 PP. 0774 ~ 0780 (2021. 07) |
한글내용
(Korean Abstract) |
컨볼루션 뉴럴 네트워크(CNN)는 이미지 인식을 비롯한 많은 애플리케이션에서 놀라운 성능을 보여주고 있다. CNN의 주요 요소 중 하나인 서브 샘플링은 효율적인 학습과 불변성에 중요한 역할을 하며, 일반적으로 최대풀링과 평균풀링이 많이 사용된다. 두 방법 외에도 기하 평균, 조화 평균 등과 같은 다른 풀링 유형들이 존재할 수 있다. 여러 풀링 유형들 중에 최적의 유형을 자동으로 찾기가 어렵기 때문에 특정 유형이 사전에 선택되어 사용되고 이는 주어진 문제에서 최적의 유형이 아닐 수 있다. 하지만, 딥러닝의 다른 변수들과 마찬가지로, 주어진 문제에서 데이터로부터 풀링 유형을 학습할 수 있다. 본 논문은 학습 가능한 파라미터 α를 통해 풀링 유형을 찾아내는 알파-인테그레이션 풀링(αI-pooling)을 제안한다. αI-pooling은 파라미터 α에 따라 최대풀링과 평균풀링 등을 특수 케이스로 포함하는 일반화된 풀링 방법이다. 실험을 통해 이미지 인식 문제에서 αI-pooling의 성능이 다른 풀링 유형들을 능가함을 보였다. 또한, 각각 레이어가 다른 최적의 풀링 유형을 가지고 있음을 확인했다. |
영문내용
(English Abstract) |
Convolutional neural networks (CNNs) have achieved remarkable performance in many applications, especially in image recognition tasks. As a crucial component of CNNs, sub-sampling plays an important role for efficient training or invariance property, and max-pooling and arithmetic average-pooling are commonly used sub-sampling methods. In addition to the two pooling methods, however, there are many other pooling types, such as geometric average, harmonic average, among others. Since it is not easy for algorithms to find the best pooling method, usually the pooling types are predefined, which might not be optimal for different tasks. As other parameters in deep learning, however, the type of pooling can be driven by data for a given task. In this paper, we propose α-integration pooling (αI-pooling), which has a trainable parameter to find the type of pooling. αI-pooling is a general pooling method including max-pooling and arithmetic average-pooling as a special case, depending on the parameter α. Experiments show that αI-pooling outperforms other pooling methods, in image recognition tasks. Also, it turns out that each layer has a different optimal pooling type. |
| 키워드(Keyword) |
αI-Pooling
학습가능한 풀링
α-Integration
컨볼루션 뉴럴 네트워크
서브 샘플링
αI-pooling
trainable pooling
α-integration
convolutional neural networks
sub-sampling
|
| 파일첨부 |
PDF 다운로드
|
