Agentic AI 애플리케이션 기본 개념 정리

인지 아키텍처 (cognitive architecture)

[참고]
Cognitive Architectures for Language Agents (2023, Sumers)
https://arxiv.org/pdf/2309.02427
러닝 랭체인 (2025)
https://www.yes24.com/product/goods/146327472

인지 아키텍처란?

인간처럼 생각하고 행동할 수 있는 지능형 에이전트를 만들기 위한 소프트웨어/이론적 구조
최근 유행하는 Agentic AI 는 LLM 을 중심 엔진으로 두고, 기억·계획·도구 사용 모듈을 붙이는 형태이다.

자율성 vs. 신뢰성 trade-off

LLM 애플리케이션은 자율성 (독자적으로 행동할 능력) 과 신뢰성 (결과물에 대한 신뢰도) 사이의 trade-off 가 있다.
1. 코드
2. LLM 호출
3. 체인
4. 라우터
5. 상태 기계
6. 자율 시스템

라우터 패턴 vs 슈퍼바이저 패턴

라우터 패턴이란, LLM 이 다음으로 호출할 에이전트/툴을 선택하도록 하는 패턴이다.

sys = (
        "당신은 라우터입니다. 사용자의 요청을 다음 라벨 중 하나로만 분류하세요: "
        "math(수식/계산), translate(번역), search(정보검색), fallback(그 외). "
        "JSON으로만 답하세요."
    )
msg = [HumanMessage(content=f"{sys}\n\n사용자: {state['input']}")]

라우터는 1. 코드 기반 라우팅 2. LLM 선택 기반 라우팅으로 분류할 수 있으며, 두 기능을 같이 사용할 수 있다.
예를 들면, 키워드 기반으로 하드 라우팅을 시도하고, 안 될 경우 LLM 에게 라우팅을 요청할 수 있다.

슈퍼바이저 패턴이란

차이점

슈퍼바이저 패턴은 라우터 패턴 이상으로 슈퍼바이저가 검증, 재시도, 재위임 (recursive 하게 handoff) 등의 기능을 담당한다는 차이점이 있다.

(작성중)

reasoning 모델

LLM 을 사용하다 보면, 어떤 모델은 응답이 수십 초씩 걸리는 것을 볼 수 있다.
이건 LLM 이 생각을 하기 때문인데, 이를 reasoning 모델이라고 부른다.

LLM 이 생각을 하는 것을 크게 두 가지로 분류해볼 수 있다.
1. 내부적으로 생각 (CoT)
2. LLM 호출을 연이어서

CoT (Chain of Thoughts)

Context Engineering

llmops