LLM 기반 AI Agent 구조와 프롬프트 전략
Contents
- General AI Agent 관점
- Prompting Reasoning Model & GPT Model
General AI Agent & GPT 모델 구조 정리
General AI Agent
기본 구조
- 문제 발생
- Agent System이 문제 해결을 위해 작동
- 사용자 → 모델 → 출력 → 해결
User → Model → Output
↓
SolvedGeneral AI Agent 예시
예: 여행 일정 생성 AI
-
사용자의 요청:
7-day Japan Itinerary with Proposal titles -
Agent 시스템이 웹 페이지와 연결되어
실시간으로 정보를 가져오고
문서 형태로 결과를 구성함
문제 해결 결과
- Agent가 직접 생성한 일정 문서를 제공함
Solved
↓
- 여행지 추천
- 세부 일정
- 지도 포함
- 리마인더 등 포함General AI Agent: LLM의 한계 극복 구조
LLM의 기본 능력만으로는 한계 존재 → 이를 극복하기 위한 구조 필요
문제 해결 흐름
Platform Resource
↓
LLM
↓
+ Retrieval
+ Action Tool
+ Planning
↓
결과 조합- LLM의 응답을 개선하기 위해:
- 외부 문서 검색 (Retrieval)
- 외부 API 호출 (Tool)
- 단계적 사고 (Planning)
등을 결합
Vertical AI Agent
예시: Customer Service
특정 도메인에 최적화된 수직형 AI 에이전트 구조
흐름
- 사용자가 고객센터에 질문
- AI Agent가 분류 및 이해 (예: 문의 유형)
- 관련 정책/문서를 검색
- 적절한 응답 생성
User → Agent → Retrieval + Tool → Response특징
- 도메인 지식 기반
- 복잡한 프로세스 자동화
- 사용자 맞춤 응답 생성 가능
Prompting Reasoning Model & GPT Model 정리
핵심 개념
생각하는 놈 (Reasoning)
→ 문제를 분석하고 전략을 세움
행동하는 놈 (Action)
→ 명령을 실행하고 결과를 생성함
o-series [the planners ]
give them a goal to achieve
“플래너 역할을 맡긴다면 o-series를 써라!”
- 복잡한 문제를 더 깊이 있게 사고
- 전략을 짜고 계획을 세우는 데 탁월
- 수학, 과학, 법률, 금융 등 정밀성과 판단이 중요한 영역에 적합
Think longer & harder about problems
GPT models [the workhorses]
그래서 나 뭐하라고?
“o-series가 계획을 세우면, GPT가 실행하라!”
- 더 빠르고 효율적인 실행
- 단순 작업, 낮은 비용, 높은 속도를 요하는 곳에 적합
- 명시적으로 무엇을 해야 하는지 정확하게 알려주는 게 중요
benefit: more explicit instructions!
GPT models vs o-series
How to choose?
| 목적 | 추천 모델 |
|---|---|
| 빠른 실행과 낮은 비용 | GPT models |
| 전략적 사고, 정확한 판단 | o-series models |
신뢰성과 정확성이 중요하면 o-series,
빠르고 단순한 처리면 GPT 사용!
o-series는 어디에 쓰이나?
- Legal
- Financial
- Insurance
- Investment
- 정책 기반 의사결정 (Rules & Policies)
Rules & Policies that the model knowso-series 주요 기능
Decompose Question
- 복잡한 질문을 자동으로 하위 질문으로 분해
LLM-as-a-judge
- 여러 결과 중 어떤 게 더 적절한지 판단자 역할 수행
지시사항을 명확하게 주기
Goals + Desired Outcomes를 명확히 지정해주면 더 정확함
{
"goal": "Generate itinerary",
"constraints": ["7 days", "Japan", "Cultural focus"]
}구문자 사용
- 특정 단어/문장 강조를 위한 포맷 구분자 사용 예시
목적: 여행 계획
[목적지]
도쿄, 오사카
[기간]
7일o-series → 다른 노하우
Chain-of-thought (CoT) prompting
- 단계적 사고 유도
- 복잡한 문제 해결에 매우 효과적
Zero-shot 예시 추가
- 명확한 instruction 없이도 예시만 줘도 잘 작동함
고객별 컨스트레인트 삽입
- 사용자별 룰, 제한 조건 반영 가능
{
"goal": "해외여행 일정 생성",
"constraints": ["비용은 100만 원 이하", "문화 체험 포함"]
}Prompting GPT-Models
1. 새로운 시대의 언어는 영어다
"The hottest new programming language is English."
– Andrej Karpathy (@karpathy)
이제 프로그래밍은 코드보다도 '프롬프트 설계'의 시대!
2. 4개 관점에서 프롬프트를 노가다(!) 하자
- 프롬프트를 설계할 때 다음 네 가지 요소를 고려해야 합니다:
핵심 4요소
- Goals (목표)
- Requirements (요구사항)
- Constraints (제약 조건)
- Expected Output (기대하는 형식)
예시 프롬프트 구성
당신은 여행 일정 설계자입니다.
목표: 일본 7일 여행 일정을 만들어주세요.
요구사항: 가족 단위, 휴식 중심, 관광지 포함
제약 조건: 예산 150만원 이하
결과물: 마크다운 형식, 날짜별 일정 구분3. 출력 프라이머
- 프롬프트를 줄 때 "어떤 식으로 말해줬으면 좋겠는지" 먼저 알려주세요.
- 이걸 출력 프라이머(Primer)라고 해요.
예시
- 이 글은 20대 대학생에게 설명하는 글입니다.
- 너무 어렵게 쓰지 마세요. ChatGPT처럼 편하게 써주세요.
- 논문이 아니라 블로그 글처럼 써주세요.4. 핵심 단어, 문장, 글 구조를 제공하자
- 프롬프트는 구조가 뼈대, 문장이 힌트입니다.
예시
글의 구성은 다음과 같습니다:
1. 주제 소개
2. 배경 설명
3. 핵심 개념 설명
4. 활용 사례
5. 결론 및 요약
반드시 위 순서를 지켜주세요.
각 항목은 부제목을 붙여 구분해 주세요.이런 식으로 GPT에게 '글의 프레임'을 주는 것이 매우 효과적입니다.
5. 특별히 강조하기
- GPT에게 특정 단어나 문장을 더 강조하고 싶을 때는
대문자, 별표, 느낌표, 괄호, 이탤릭, 굵게 등을 활용
예시 문장
Please focus on **SAFETY FIRST** when explaining the system!
The *most important part* is to always DOUBLE-CHECK.요약: 프롬프트는 결국 "잘 설명하는 기술"
GPT를 잘 쓰려면, 명확한 목표 + 구조 + 형식 + 강조를 같이 주는 것이 핵심
출처:
https://platform.openai.com/docs/guides/gpt-best-practices
https://docs.promptingguide.ai/introduction
