GPGPU를 활용한 인공신경망 예측기반 텍스트 압축기법

김재주; 한환수; Jaeju Kim; Hwansoo Han

연구문헌

국내 논문지

홈 > 연구문헌 > 국내 논문지 > 한국정보과학회 논문지 > 정보과학회 컴퓨팅의 실제 논문지 (KIISE Transactions on Computing Practices)

정보과학회 컴퓨팅의 실제 논문지 (KIISE Transactions on Computing Practices)

Current Result Document : 10 / 16 이전건 다음건

한글제목(Korean Title)	GPGPU를 활용한 인공신경망 예측기반 텍스트 압축기법
영문제목(English Title)	Neural Predictive Coding for Text Compression Using GPGPU
저자(Author)	김재주 한환수 Jaeju Kim Hwansoo Han
원문수록처(Citation)	VOL 22 NO. 03 PP. 0127 ~ 0132 (2016. 03)
한글내용 (Korean Abstract)	인공신경망을 압축에 적용하여 더 높은 압축 성능을 보이기 위한 알고리즘들이 몇 가지 연구되어 있다. 그러나 그동안 이러한 알고리즘들은 한정된 계산 능력의 하드웨어를 가지고 있기에 작은 크기의 신경망을 사용할 수밖에 없었으며 적용하는 대상 역시 실제로 사용하기에는 너무 작은 크기의 파일들이었다. 본 논문에서는 GPGPU의 계산능력을 신경망 학습에 이용하여 만든 텍스트 문맥 기반 문자 등장 확률 예측기와 함께 허프만 부호화의 성능을 높일 수 있는 변환 방법을 제시한다. 앞먹임 신경망과 GRU 회귀 신경망에 대해 실험을 수행하였으며, 회귀 신경망 모델은 앞먹임 신경망에 비해 뛰어난 예측 성공률과 압축률을 보였다.
영문내용 (English Abstract)	Several methods have been proposed to apply artificial neural networks to text compression in the past. However, the networks and targets are both limited to the small size due to hardware capability in the past. Modern GPUs have much better calculation capability than CPUs in an order of magnitude now, even though CPUs have become faster. It becomes possible now to train greater and complex neural networks in a shorter time. This paper proposed a method to transform the distribution of original data with a probabilistic neural predictor. Experiments were performed on a feedforward neural network and a recurrent neural network with gated-recurrent units. The recurrent neural network model outperformed feedforward network in compression rate and prediction accuracy.
키워드(Keyword)	인공신경망 앞먹임 신경망 회귀신경망 텍스트 압축 자연어 압축 허프만 부호화 엔트 artificial neural network feedforward neural network recurrent neural network text compression natural language compression huffman coding entropy coding batch normalization
파일첨부	PDF 다운로드