데이터베이스 연구회지(SIGDB)
Current Result Document :
| 한글제목(Korean Title) |
심층신경망에서 학습 외 분포 데이터 탐지 알고리즘 |
| 영문제목(English Title) |
Detecting Out-of-distribution data for Deep Neural Networks |
| 저자(Author) |
김상원
이호준
김성훈
서지원
Sangwon Kim
Hojun Lee
Seonghun Kim
Jiwon Seo
|
| 원문수록처(Citation) |
VOL 35 NO. 02 PP. 0066 ~ 0077 (2019. 08) |
한글내용
(Korean Abstract) |
심층신경망 혹은 에서의 학습 외 분포 데이터 (Deep Neural Network, DNN) (Out-of-Distribution Data)란 해당 심층신경망을 학습시킨 데이터와 상당한 차이를 보이는 데이터를 말한다. 하지만, 심층신경망이 도출하는 결과에 대한 근거와 도출 방법을 이해하는 것이 어렵기 때문에 학습 외 분포 데이터를 탐지하기 어렵다. 본 논문에서는 많은 데이터들 속에서 그러한 학습 외 분포 데이터를 정확하게 식별하기 위해 독창적인 기법을 제안한다 이 기법은 학습 내 분포 데이터에 대응하는 은닉 뉴론들이 특정한 분포를 가진다는 가정을 기반으로 한다. 이러한, 가정 하에서 본 기법은 학습 내 분포 데이터를 비슷한 은닉 뉴론 패턴을 가진 것끼리 군집화 한 후 그 결과를 바탕으로 학습 외 분포 데이터를 검출한다 |
영문내용
(English Abstract) |
The inference outcome of a Deep Neural Network (DNN) may be incorrect if the input is substantially different from the distribution of its training data. Thus detecting such out-of-distribution (OOD) data is essential for a DNN to be securely applied. Because we do not yet understand why and how a DNN makes an inference, it is hard to identify OOD data by examining the inference process. We propose a novel method to accurately detect OOD data and in-distribution (ID) data. Our method assumes that there exists a specific distribution of the values of hidden neurons for ID data. Under this assumption, our method clusters ID data with similar hidden-neuron patterns and detect OOD data based on the clustering results. |
| 키워드(Keyword) |
Deep Neural Network
Out-of-Distribution detection
Deep Neural Network Security
심층신경망 학습
분포 데이터 탐지
심층신경망 보안
|
| 파일첨부 |
PDF 다운로드
|
