RAG (Retrieval Augmented Generation) 개념 오픈 도메인 질의응답(ODQA) 모델의 성능은 Knowledge Graph(KG)를 활용하는 것 보다 질의(query)에 적절한 문서를 찾은(retrieve) 후 생성 모델에 넣어 답을 얻는 방식이 성능이 더 좋다고 한다. 현재 가장 성능이 좋다고 알려진 ODQA 모델인 FiD(Fusion in Decoder), RAG(Retrieval-Augmented Generation) 등이 이 방법을 채택하고 있다.
ODQA를 Extractive model이 아닌 Generative model로 구현하려는 시도는 여러 번 있었다. 이미 생성 모델 안에 다양한 지식이 내재되어 있다는 것은 GPT 계열 모델의 실험으로 입증되었기 때문에 충분히 시도해 볼 만한 했다.
하지만 생성 모델 안에 다양한 지식이 내재되어 있다는 것은 모델의 크기가 매우 커야한다는 전제조건이 붙는다. RAG는 이런 문제를 해결하기 위해 생성 모델에 검색...
원문 링크 : (자연어 처리) RAG 개념
