프롬프트 엔지니어링2

Sirius·2023년 9월 30일

1) 고급 프롬프팅 테크닉

1) Expert Prompting

Role 과 동일한 방식
LLM에게 전문가로서 응답하도록 요청하는 방법

2) According to wikipedia

LLM이 학습한 지식 베이스가 있다면 해당 내용을 참조하라고 하는 것만으로도 더 정확한 답변을 얻을 수 있다는 것임
ex> 특정목표로 파인튜닝된 모델이면 그 학습된 지식의 부분을 명확하게 언급해주면 더 성능 좋아질듯?

3) Generated Knowledge Prompting

답변에 해당하는 지식을 먼저 생성하라고 하고 그 생성한 지식을 기반으로 답변을 생성하는 기법(지식생성이 정확한가?)

4) Retrieval Augmented Generation(RAG)

사용자의 요청과 관련한 지식을 검색 컴포넌트에서 검색해와서 컨텍스트로 제공

ex> 벡터서치

5) Tree of Thought

트리 구조로 답변을 생성해 내면서 중간 단계에서 진행 상황을 스스로 평가하고 생각 트리를 확장하고 조정하는 방법

생성한 결과와 평가를 통해 앞뒤로 생각을 체계적으로 탐색함

6) Plan-and-Solve Prompting

Least to Most가 문제를 "단계적"으로 푼다고 한다면 PS는 미리 풀어야할 하위 문제들을 모두 생성해놓고 문제를 푸는것임

즉 CoT, Least to Most는 중간이 망하면 그 뒤부터 망하지만 이거는 아님

7) Automatic Prompt Engineer

LLM으로 프롬프트를 자동 생성, 한계가 있음

2) 프롬프트 테크닉의 결론

1) 예시를 제공한다
2) 생각을 많이 하게 한다.
3) 문제풀이 전략을 세우게 한다.
4) 스스로 평가한다.

0개의 댓글