[NLP] LLM & RAG 의 생태계 및 용어 설명

LLM & RAG EchoSystem

Prompt

• LLM의 정확도를 올리기 위하여 사용자의 쿼리를 받아서 다양하게 재구성.
• LLM의 직접적인 최종 input

Query

• 사용자가 입력하는 raw 텍스트.

Instruction

• LLM 에게 주는 역할이나 지시사항.
• 대답의 품질을 높이기 위한 목적.
• 어떤 식으로 대답해주면 좋을지 방향성이나 지시사항 부여
• 역할을 부여함으로써 정확도를 높임.

Prompt Engineering

• Prompt를 재구성 하는 행위
• ex) Chain of Thought 도 Prompt Engineering의 한 예시.
• LLM Response의 정확도를 높이기 위하여 사용자의 Query에 Instruction을 부여
• ex) Prompt : 너는 전문가야. 답변을 틀리지 말고 잘 대답해. {Query}
• RAG를 붙이는 경우 RAG의 결과로 나온 문서들과 Instruction을 합쳐서 Query를 재구성
• ex) Prompt : 너는 전문가야. {Query}에 대한 답변을 할 때 아래 문서들을 이용해줘. {RAG topk documents}
• 추가 학습을 하지 않음

Instruction Tuning

• Query에 Insturction을 부여하여 Prompt를 만든 후, Fine Tuning을 수행.
• 모델이 지시사항을 잘 따르도록 하는 것이 목적.
• 추가 학습 진행

Prompt Tuning

• PEFT 의 일종
• Prompt에 Embedding을 진행한 후, embedding 앞에 특정 크기의 벡터를 추가하여 prompt embedding과 concat 하여 학습 진행.
• Embedding 의 크기를 확장하여 확장된 부분만 학습하고, LLM 은 Freeze 시킴.
  
• Prompt Tuning은 Soft Prompting 기술임.
• 추가 학습 진행

• Prompt Engineering : Query에 Instruction을 부여하여 추가 학습 없이 LLM에 넣음
• Instruction Tuning : Query에 Instruction을 부여하여 추가 학습 수행(Fine Tuning)
• Prompt Tuning : Query에 Instruction을 부여하여 LLM을 Freeze 시키고 추가 벡터만 학습(Fine Tuning)