Current Result Document :
| 한글제목(Korean Title) |
대규모 언어모델을 이용한 상식 추론을 위한 지식 프롬프트 생성 방법 |
| 영문제목(English Title) |
Knowledge Prompting Generation for Commonsense Reasoning with Large-Scale Language Models |
| 저자(Author) |
심정용
박성환
김은솔
Jeong-Yong Shim
Seong-Hwan Park
Eun-Sol Kim
|
| 원문수록처(Citation) |
VOL 49 NO. 02 PP. 0794 ~ 0796 (2022. 12) |
한글내용
(Korean Abstract) |
최근 GPT-3[1], T5[2]와 같은 대규모 언어 모델을 활용하여 다양한 자연어 문제들이 해결되고 있다. 이와 같이 대규모 언어 모델을 활용한 방법은 다양한 자연어 문제에서 사람 수준의 정확도를 보이고 있지만, 모델 학습 시에 활용하지 않았던 지식 체계나 상식에 기반을 둔 상식 추론 문제에서는 개선이 필요하다는 것이 잘 알려져 있다. 본 논문에서는 상식 추론 문제에서 대규모 언어 모델의 성능을 높일 수 있는 방법으로서 지식 프롬프트 생성 방법을 제안한다. 특히 생성된 지식 사이의 가중치를 계산하고, 이를 기반으로 효율적인 프롬프트 셋을 구축함으로써 상식 추론 문제의 성능을 개선할 수 있는 방법을 제안한다. 지식 프롬프트 생성 방법으로 우리는 상식추론 문제를 다루는 데이터셋인 CommonSenseQA[3]에서 기존의 방식 (랜덤, 템플릿)을 뛰어넘는 성능을 보였다. |
영문내용
(English Abstract) |
|
| 키워드(Keyword) |
|
| 파일첨부 |
PDF 다운로드
|
