목차

1. 들어가기
2. 주요 내용
3. Zero-Shot and Few-Shot Prompting
4. Chain of Thought Prompting
5. Self-Consistency
6. System Message
7. Providing Grounding Context

들어가기

chatGPT는 대화형 LLM으로서 자신의 업무에 맞게 잘 활용한다면 강력한 무기가 될수 있다.


아래 내용은 Prompt Engineering 내용을 접목한 chatGPT 활용 방안으로 자신의 업무나 요구의 맞게 적절하게 변경해가며 적용하고 활용할 수 있다.

주요 내용

Zero-Shot and Few-Shot Prompting

Zero-Shot 프롬프트: 이전 예나 맥락 없이 과제나 질문을 제시하는 것을 포함한다. 모델은 기존 지식과 훈련을 기반으로 반응할 것으로 예상된다.

Zero-Shot

Few-Shot 프롬프트: 과제 또는 질문과 함께 몇 가지 예시를 제공하는 것을 포함한다. 이는 모델을 원하는 출력으로 유도하는 데 도움이 되며, 특히 추론이 필요한 작업에 유용하다.

Few-Shot

아무리 chatGPT에게 설명을 잘해준다고 한들 적절한 예시를 같이 주는 것이 성능을 높이는 확실한 방법이다.

Chain of Thought Prompting

이 기법은 일련의 중간 추론 단계를 생성하도록 모델을 안내하는 것을 포함한다. 복잡한 추론 과제를 수행하는 모델의 능력을 향상시킨다. CoT priming은 몇 가지 추론 체인 예시가 제공될 때 LLM이 자연스럽게 추론 능력을 개발할 수 있다는 연구에서 나왔다.

COT를 사용하지 않은 경우:
(틀린 정답을 말했다.)

COT를 사용한 경우:

Self-Consistency

자기 일관성은 사고 연쇄를 촉진하는 데 사용되며, 다양한 추론 경로를 샘플링하고 가장 일관된 답을 선택하는 것을 포함한다. 이 기법은 복잡한 문제들이 종종 동일한 정답으로 이어지는 여러 유효한 접근 방식을 가지고 있다는 아이디어를 활용한다.

Self-Consistency를 사용하지 않은 경우

Self-Consistency를 사용한 경우

Self-Consistency는 한번 llm이 이해한 업무에 대해서는 따로 특별한 지시를 입력하지 않고 입력만을 주어주면 일관성을 가지고 관성적으로 답변을 생성한다고 이해하면 된다.

System Message

프롬프트의 첫머리에 시스템 메시지를 포함시키면 상황, 명령어, 또는 다른 관련 정보를 포함하는 모델 프라이밍에 도움이 된다. 모델이 대답해야 할 것과 대답하지 말아야 할 것, 그리고 응답 형식을 어시스턴트의 성격을 정의할 수 있다.

System Message를 사용하지 않은 경우

System Message를 사용한 경우

Providing Grounding Context

접지 데이터를 제공하는 것은 모델이 신뢰할 수 있는 답변을 제공하는 데 도움이 되며, 특히 최신의 사실 정보가 필요한 사용 사례에 중요하다.

Grounding Context를 제공하지 않은 경우

Grounding Context를 제공한 경우