정보과학회논문지 (Journal of KIISE)
Current Result Document :
| 한글제목(Korean Title) |
저해상도 이미지 분류를 위한 고해상도 이미지로부터의 Self-Attention 정보 추출 네트워크 |
| 영문제목(English Title) |
Low-Resolution Image Classification Using Knowledge Distillation From High-Resolution Image Via Self-Attention Map |
| 저자(Author) |
신성호
이주순
이준석
최승준
이규빈
Sungho Shin
Joosoon Lee
Junseok Lee
Seungjun Choi
Kyoobin Lee
|
| 원문수록처(Citation) |
VOL 47 NO. 11 PP. 1027 ~ 1031 (2020. 11) |
한글내용
(Korean Abstract) |
기존의 딥러닝 모델들은 고화질의 이미지들을 활용하여 연구 개발되었으며, 화질이 낮아질수록 급격히 성능이 낮아진다. 본 연구는 저화질 이미지에도 효과적으로 대응할 수 있는 딥러닝 모델을 개발하고자, 고화질의 이미지로부터 효과적으로 분류를 할 수 있는 정보를 Attention Map의 형태로 추출했다. 이후 Knowledge Distillation 기법을 활용하여 고화질 이미지상에서 추출한 Attention Map을 저해상도 이미지 모델에 전달하는 네트워크를 제안했으며, 16×16의 저해상도 CIFAR100 이미지를 분류했을 때 에러율을 2.94% 낮출 수 있었다. 이는 32×32에서 16×16으로 이미지 해상도를 낮췄을 때 에러 감소율의 38.43%에 해당하는 수치로, 본 네트워크의 우수성을 입증할 수 있었다. |
영문내용
(English Abstract) |
Traditional deep-learning models have been developed using high-quality images. However, when the low resolution images are rendered, the performances of the model drop drastically. To develop a deep-learning model that can respond effectively to low-resolution images, we extracted the information from the model, which uses high-resolution images as input, in the form of the Attention Map. Using the knowledge distillation technique, the information delivering Attention Map, extracted from the high-resolution images to low-resolution image models, could reduce the error rate by 2.94%, when classifying the low-resolution CIFAR images of 16×16 resolution. This was at 38.43% of the error reduction rate when the image resolution was lowered from 32×32 to 16×16, which could demonstrate excellence in this network. |
| 키워드(Keyword) |
저해상도 이미지
이미지 분류
정보 전달 기법
low resolution image
image classification
knowledge distillation
self-attention map
|
| 파일첨부 |
PDF 다운로드
|
