Prompt Engineering의 진화: “질문”에서 “사고 설계”로
생성형 AI 시대가 본격화되면서 가장 빠르게 발전한 분야 중 하나가 바로 Prompt Engineering입니다.
초기의 프롬프트는 단순히 “AI에게 어떻게 질문할 것인가?”에 집중되어 있었습니다. 그러나 최근에는 한 단계 더 나아가, “AI가 어떻게 사고하도록 유도할 것인가?”가 핵심이 되고 있습니다.
특히 대규모 언어 모델(LLM)은 단순 지식 검색을 넘어 추론(reasoning), 문제 해결(problem solving), 계획(planning) 능력까지 요구받게 되었고, 이에 따라 프롬프트 기법 역시 빠르게 발전했습니다.
이번 글에서는 Prompt 기술의 발전 과정을 정리하고, 주요 기법들의 특징과 실제 예제를 함께 살펴보겠습니다.
1. Prompt Engineering의 시작: Zero-Shot과 Few-Shot
초기의 LLM 활용은 매우 단순했습니다.
1) Zero-Shot Prompting
모델에게 예시 없이 바로 질문하는 방식입니다.
예제
다음 문장의 감정을 분석하세요.
문장: "오늘 시험을 망쳐서 너무 속상하다."예상 응답
부정적 감정특징
- 가장 간단한 방식
- 빠르고 효율적
- 복잡한 추론에는 약함
2) Few-Shot Prompting
몇 개의 예시를 제공하여 모델이 패턴을 학습하도록 만드는 방식입니다.
예제
문장: "정말 행복한 하루였다." → 긍정
문장: "짜증나는 일이 너무 많다." → 부정
문장: "이번 여행은 최고의 경험이었다." →예상 응답
긍정특징
- 예시를 통해 정확도 향상
- 분류 문제에 강함
- 예시 품질에 성능이 크게 좌우됨
2. 사고를 유도하기 시작한 CoT(Chain of Thought)
2022년 Google 연구진이 발표한 논문
“Chain-of-Thought Prompting Elicits Reasoning in Large Language Models”는 Prompt Engineering의 방향을 완전히 바꾸어 놓았습니다. LLM의 추론 능력을 크게 향상시킬 수 있음을 증명한 것이 핵심입니다.
CoT(Chain of Thought) Prompting
모델에게 중간 사고 과정을 단계적으로 설명하도록 유도하는 방식입니다.
일반 Prompt
철수는 사과 3개를 가지고 있다.
영희가 2개를 더 주었다.
철수는 총 몇 개의 사과를 가지고 있는가?CoT Prompt
철수는 처음에 사과 3개를 가지고 있다.
영희가 2개를 더 주었다.
단계적으로 생각해보자.예상 응답
처음에 3개가 있다.
2개를 더 받았다.
3 + 2 = 5
따라서 총 5개이다.왜 CoT가 중요한가?
CoT 이전의 프롬프트는:
“정답을 말해줘”
에 가까웠다면,
CoT 이후의 프롬프트는:
“생각하는 과정을 보여줘”
로 변화했습니다.
즉 Prompt Engineering의 핵심이:
- 질문 작성
→ - 사고 과정 설계
로 이동한 것입니다.
3. CoT 이후 등장한 주요 Prompt 기법
Prompt Engineering 발전 흐름 정리
| 기법 | 핵심 아이디어 | 장점 | 단점 |
|---|---|---|---|
| Zero-Shot | 예시 없이 질문 | 빠름 | 복잡한 추론 약함 |
| Few-Shot | 예시 제공 | 정확도 향상 | 토큰 사용 증가 |
| CoT | 사고 과정 유도 | 추론 능력 향상 | 응답 길어짐 |
| Self-Consistency | 여러 사고 경로 생성 후 다수결 | 정확도 향상 | 비용 증가 |
| Least-to-Most | 문제를 작은 단계로 분해 | 복잡한 문제 해결 우수 | 프롬프트 설계 어려움 |
| ReAct | 추론 + 행동(Action) 결합 | 도구 사용 가능 | 설계 복잡 |
| Tree of Thoughts | 사고를 트리처럼 탐색 | 탐색 능력 향상 | 계산 비용 큼 |
| Reflexion / Reflective Prompting | 스스로 오류 반성 | 자기 수정 가능 | 반복 비용 발생 |
4. Self-Consistency Prompting
CoT를 여러 번 수행하고 가장 많이 등장한 답을 선택하는 방식입니다.
개념
LLM은 같은 문제에도 서로 다른 사고 경로를 생성할 수 있습니다.
Self-Consistency는:
- 여러 추론 경로 생성
- 결과 비교
- 가장 일관된 답 선택
을 수행합니다.
예제
다음 문제를 단계적으로 풀어라.
(동일 문제를 여러 번 실행)생성 결과
경로1 → 답: 42
경로2 → 답: 42
경로3 → 답: 39최종 선택
42특징
- 수학·논리 문제에서 매우 강력
- 계산 비용 증가
5. Least-to-Most Prompting
복잡한 문제를 작은 문제들로 나누어 해결하는 방식입니다.
마치 인간이 어려운 문제를 “부분 문제(subproblem)”로 나누어 해결하는 것과 유사합니다.
예제
원래 문제
소수(prime number)가 무엇인지 설명하고,
20 이하의 소수를 모두 구하라.Least-to-Most 방식
1단계: 소수의 정의를 설명하라.
2단계: 20 이하 숫자를 나열하라.
3단계: 각 숫자가 소수인지 판단하라.
4단계: 최종 결과를 정리하라.장점
- 긴 추론 문제에 강함
- 코드 생성·수학·계획 문제에서 유용
6. Reflective Prompting / Reflexion
최근 등장한 대표적인 방식 중 하나입니다.
모델이 스스로 자신의 답변을 검토하고 수정합니다.
예제
답변을 작성한 후,
오류 가능성을 검토하고 수정하라.예상 흐름
1차 답변 생성
→ 자기 검토
→ 오류 발견
→ 수정된 최종 답변 생성특징
- 자기 반성(Self-Reflection)
- 오류 감소
- 에이전트 시스템에서 중요
7. 최근 중요해진 Prompt 기법들
1) ReAct Prompting
Reasoning + Acting의 결합입니다.
LLM이:
- 사고(Reasoning)
- 행동(Action)
- 관찰(Observation)
을 반복합니다.
현재 AI Agent 구조의 핵심 기반 중 하나입니다.
예제
질문:
현재 서울의 날씨를 알려줘.
Thought:
현재 날씨 정보를 검색해야 한다.
Action:
날씨 API 호출
Observation:
서울 22도, 맑음
Final Answer:
현재 서울은 22도이며 맑습니다.8. Tree of Thoughts(ToT)
CoT를 확장한 개념입니다.
하나의 사고 경로만 따르지 않고,
여러 사고 가지(branch)를 탐색합니다.
마치 체스 AI의 탐색 구조와 유사합니다.
간단 예시
문제 해결 방법 A 탐색
문제 해결 방법 B 탐색
문제 해결 방법 C 탐색
→ 가장 가능성 높은 경로 선택9. Prompt Engineering의 현재 방향
현재 Prompt Engineering은 단순 문장 기술이 아니라:
- 추론 설계
- 메모리 관리
- 도구 호출
- 자기 검증
- 계획 수립
- 에이전트 협업
영역으로 확장되고 있습니다.
즉 미래의 Prompt는 단순한 “질문”이 아니라:
AI의 사고 구조를 설계하는 프로그래밍
에 가까워지고 있습니다.
10. 앞으로의 변화
최근에는 Prompt 자체를 AI가 자동 생성하는:
- Automatic Prompt Engineering (APE)
- DSPy
- Prompt Optimization
- Program-of-Thoughts
- Graph-of-Thoughts
같은 연구도 활발하게 진행 중입니다.
특히 Agentic AI 시대에는:
- Prompt
- Tool Use
- Memory
- Planning
이 통합되는 방향으로 발전하고 있습니다.
마무리
Prompt Engineering의 발전은 단순히 “질문을 잘하는 법”의 발전이 아닙니다.
그 본질은:
- 인간의 사고 구조를
- AI가 이해할 수 있는 형태로 변환하는 기술
의 발전이라고 볼 수 있습니다.
초기의 Zero-Shot과 Few-Shot이 “질문의 기술”이었다면,
CoT 이후의 Prompt Engineering은 점점 더:
“사고를 설계하는 기술”
로 진화하고 있습니다.
그리고 미래의 AI 활용 능력은 단순한 사용법이 아니라,
AI에게 어떤 사고 구조를 부여할 수 있는가에 의해 결정될 가능성이 높습니다.
