GPT Store
- 23.1.10. 오픈
- Scholar GPT/AllTrails 등 다양한 타스크의 서비스
Prompting
- GPT1,2는 해당없음. 3부터는 프롬프트의 중요성
- 단어를 통해 영어공부하는 것보다 책을 통해 영어공부하는 것이 좋음
- 처음엔 그 성능이 높지 않지만, 책을 이해하면 이해할수록 잘해짐
GPT는 대용량 언어모델
Chat GPT는 인간의 평가기준을 추가해 사람과 유사한 답변 생성하는 서비스(강화학습)
RAG
- Retrieval(검색): 데이터 유형에 따라 DB저장공간이 다르다.(VectorDB, RDB, GrapthDB, API)
- 전후처리를 통한 RAG 고도화
Data volume에 따라 모델링->파인튜닝->프롬프트
Prompt Example
-
Chain of Thought(CoT): 추론 과정에 대한 서술 추가
LLM이 풀려는 문제와 동일한 문제를 사람이 해결하기 위해 수행하는 추론 과정 각 단계에 대한 서술을 프롬프트에 추가
-
Zero-shot-CoT: 최초 제안된 CoT가 퓨삿으로만 사용될 수 있는 제한점 해결
- 프롬프트 맨 마지막에 ‘Let’s think step by step’ 한 문장을 추가하는 방식으로 구현
- 거의 모든 Task에 대해 범용적으로 활용 가능
-
Auto CoT: LLM이 문제 해결을 위한 사고 과정을 스스로 정의하도록 하는 방법
프롬프팅을 만들도록 하고 스스로 결과물'들'에 대한 평가
-
Cross-Lingual-Thought(XLT): 영어가 아닌 언어로 된 문제 해결을 위한 CoT
- 영어로 프롬프트를 구성하되, 프롬프트 도입부에 ‘I want you to act as an {task} expert for Korean.’과 같은 문구를 추가
- 특정 언어 task 전문가로서의 페르소나 부여
- 문제 풀이 시 실질적인 CoT를 수행하도록 Zero-shot-CoT처럼 ‘Step-by-step’과 같은 지시문 추가
-
Selft-Verification: CoT를 통해 얻은 결론에 대해 역추론 방식으로 자체 검증하도록 하는 프롬프트 엔지니어링
Do it corrects? 와 같이 참/거짓으로 답할 수 있는 질문을 LLM 스스로 던지도록 하는 방식으로 구현
-
Chain-of-Verification(CoVE): LLM 스스로 검증 질문을 생성한 후 스스로 생성한 질문에 대해 답하도록 하는 프롬프트 엔지니어링
LLM 스스로 생성한 질문에 대한 답변 결과에 따라 다시 CoT 과정을 거쳐 수정된 답변을 출력하도록 하는 방법
