프롬프트 엔지니어링에서 출발한 AI 활용법은 컨텍스트와 루프를 거쳐, 이제 시스템 전체의 흐름을 설계하는 그래프 엔지니어링 패러다임으로 진화하고 있습니다.

단일 AI 모델을 똑똑하게 만드는 한계를 넘어, 여러 AI와 코드, 그리고 사람이 함께 협력하는 구조를 설계하는 그래프 엔지니어링의 핵심 내용을 다듬어 정리했습니다.

AI 엔지니어링의 4단계 진화 과정

• 프롬프트 엔지니어링: AI에게 어떤 지시어를 써야 좋은 답을 얻는지 연구하는 단계
• 컨텍스트 엔지니어링: AI에게 어떤 정보, 기억, 도구를 제공할 것인지 설계하는 단계
• 루프 엔지니어링: AI가 스스로 계획-실행-평가-수정을 반복하도록 만드는 단계
• 그래프 엔지니어링: 작업을 여러 노드로 나누고 execution flow, 병렬 처리, 예외 처리, human intervention을 제어하는 단계

그래프 엔지니어링의 4가지 핵심 요소

• 노드: AI의 작업(검색, 요약), 결정론적 코드(숫자 비교, 개수 확인), 또는 사람의 개입 등 개별 작업 단위
• 엣지: 노드와 노드를 연결하며 다음 작업으로 이동하는 경로
• 상태: 각 노드를 거치며 업데이트되고 공유되는 데이터/기억
• 조건: 전달된 상태 값에 따라 어떤 엣지로 이동할지 결정하는 규칙

주요 그래프 디자인 패턴

• 라우터 패턴: 입력 조건이나 요청 성격에 따라 가장 적합한 에이전트로 작업을 분기
• 병렬 실행 패턴: 시장 조사, 경쟁사 분석, 고객 페인포인트 수집 등 독립된 작업을 동시에 수행하여 처리 시간을 단축
• 생성자-평가자 패턴: 작업 에이전트가 결과를 생성하면 평가 에이전트가 검증 후 기준 미달 시 재작업 루프 실행
• 사용자 승인 패턴: 중요한 의사결정 시점에서 그래프 흐름을 일시 정지하고 사람의 승인을 받아 다음 단계 진행

단일 에이전트 vs 그래프 엔지니어링

적용 시 주의점

오버엔지니어링 경계

단순 요약이나 단발성 Q&A, 단순 Tool-call 1~2회로 끝나는 작업에 그래프 엔지니어링을 적용하는 것은 오버엔지니어링입니다.
에이전트 수가 늘어날수록 시스템 복잡도와 디버깅 난이도, 토큰 비용이 증가합니다.

그래프 엔지니어링은 다단계 분기 logic, 병렬 처리, 조건별 재시도, 사람의 개입 및 엄격한 검증/거버넌스가 반드시 필요한 복잡한 업무 워크플로우 설계에 적용할 때 가장 강력한 효과를 발휘합니다.

그래프 엔지니어링은 AI 모델 자체를 똑똑하게 만드는 기술이라기보다, 똑똑한 AI가 실수 없이 일할 수 있는 '조직 구조와 프로세스'를 설계하는 기술입니다.
AI에게 좋은 답을 유도하는 시대를 지나, AI가 올바른 구조 안에서 안전하고 효율적으로 일하게 만드는 시스템 설계 역량이 앞으로의 품질을 결정짓게 됩니다.