x86 프로세서에서 8 비트 SIMD 를 이용한 GEMM 가속

홈 > 연구문헌 > 학술대회 프로시딩 > 한국정보과학회 학술대회 > KSC 2020

한글제목(Korean Title)	x86 프로세서에서 8 비트 SIMD 를 이용한 GEMM 가속
영문제목(English Title)	Matrix multiplication acceleration using 8-bit SIMD on x86 processor
저자(Author)	김수진 권진세 김형신 Sujin Kim Jinse Kwon Hyungshin Kim
원문수록처(Citation)	VOL 47 NO. 02 PP. 1031 ~ 1033 (2020. 12)
한글내용 (Korean Abstract)	최근 임베디드 디바이스에서 CNN(Convolutional Neural Network) 응용을 가속화하기 위해 데이터 표현을 8 비트 정수형으로 양자화하여 연산하는 방식을 취하고 있다. 8 비트 정수형의 산술 연산을 가속하기 위해서는 병렬화 계산을 이용할 수 있다. 인텔에서 제공하는 내장 기능 중 SIMD(Single Instruction Multiple Data) 명령어 집합은 8 비트 정수형 벡터의 곱하기 명령을 제공하지 않는다. 이를 개선하여 본 논문은 인텔 AVX(Advanced Vector Extensions) 명령어 집합에서 지원하지 않았던 8 비트 벡터 정수형 곱하기 명령을 새롭게 구현하고, GEMM(GEneral Matrix to Matrix Multiplication) 연산을 8 비트 벡터 정수형에 적합한 타일링 기법을 적용하여, GEMM 연산 성능을 최대 1.2 배 개선하였다.
영문내용 (English Abstract)
키워드(Keyword)
파일첨부	PDF 다운로드