며칠 전 AI Agent의 Dreaming 개념을 다룬 기사를 보았습니다.
새삼 기술 발전이 너무 빠르게 이루어지고 있음을 느꼈으며,
점차 작은 불편함까지 해소해가며 AI가 완성되어가고 있다는 생각이 들었습니다.
상당히 인상깊었던 관계로 Dreaming에 대해 한번 다루어 보았습니다.
기존 Agent의 한계 및 필요성
왜 이런 기술까지 나오게 되었나 생각을 해 보았습니다.
현재의 AI Agent는 얼마나 자율적일까요?
계획부터, 작업 수행까지 자율적으로 수행한다고 말할 수 있을까요?
SNS에서 이런 게시물을 보았습니다.
현재 AI Agent의 한계를 잘 보여주는 게시물이라고 생각합니다.
세션이 종료되면 멈추고, 노트북을 닫으면 작업이 종료됩니다.
그 외에도 몇몇 문제가 있다고 생각합니다.
- 비용 많이 듦
- 시행착오 많음
- 사용자가 요청해야 움직임
- 계속 백그라운드 작업 불가
지금의 AI Agent도 충분히 유용하다고 생각하지만,
사용자가 자리를 비운 동안, 직접 요청하지 않아도 스스로 과거 작업을 복기하고, 성찰하고, 개선한다면 어떨까요?
Dreaming이란?
Dreaming은 background에서 이전 작업을 되돌아보며,
기억을 정리하고, 패턴을 분석하며,
중요한 정보만 장기 기억으로 승격시키는 시스템입니다.
Agent가 수백 번의 세션을 거치며 쌓은 메모리를 다시 읽고, 정리하고, 새로운 인사이트까지 도출해내는 파이프라인이라고 볼 수 있습니다.
Dreaming은 주로 다음과 같은 역할을 합니다.
- 최근 대화/작업 기록 분석
- 중요한 정보 추출
- 반복 패턴 발견
- 장기 기억으로 승격
Dreaming의 3단계 구조
OpenClaw에서 Dreaming은 3단계 구조를 가지고 있습니다.
Light Phase, REM Phase, Deep Phase. 많이 들어본 단어들 같습니다. 얕은 수면, 깊은 수면, 렘 수면. 인간의 수면 패턴을 그대로 가져왔다고 보여집니다. 하나씩 분석해 보겠습니다.
Light Phase(얕은 수면)
인간에게 있어 얕은 수면은 잠이 들기 시작하는 준비 단계입니다.
OpenClaw에서 Light Phase는 기억 정리 단계라고 볼 수 있습니다.
- 최근 세션 읽기
- short-term memory 확인
- 중복 제거
- 후보 기억 추리기
마치 오늘 있었던 일을 정리하는 듯한 행동을 보입니다.
REM Phase(렘 수면)
인간에게 있어 렘 수면은 깊은 수면에 들기 전 단계로, 기억 저장, 감정 정리, 뇌 기능 회복을 담당하고 있습니다.
OpenClaw에서는 주로 회고의 역할을 하고 있습니다.
- 반복 패턴 찾기
- theme 추출
- reflection 생성
왜 자꾸 틀리지? 무엇을 계속 선호하지? 등을 생각하는 듯한 패턴을 보입니다.
Deep Phase(깊은 수면)
인간에게 있어 깊은 수면은 뇌와 신체가 회복되는 단계로
단기 기억을 영구적인 장기 기억으로 전환하고 강화합니다.
OpenClaw에서도 비슷한 역할을 하고 있습니다.
- 후보 scoring
- threshold 검사
- 진짜 중요한 것만 MEMORY.md 저장
정말 중요하다! 싶은 것만 MEMORY.md 파일에 저장하는 모습을 보입니다.
흥미로운 점은 "왜 하필 인간의 수면패턴을 따라하였는가?" 입니다.
AI는 생물학적 제약이 없고, 인간처럼 반드시 휴식이 필요한 존재도 아닙니다.
그럼에도 인간의 수면 구조를 차용한 이유는,
기억 정리(memory consolidation)라는 인간의 메커니즘이 이미 잘 연구되어 있기 때문이라고 생각합니다.
즉, 인간을 그대로 모방했다기보다
"기억을 정리하고 중요한 정보만 장기 기억으로 옮긴다"는 개념적 구조를 차용한 것이 아닐까 싶습니다.
Dreaming이 왜 중요한가?
기존의 AI Agent는 사용자가 요청했을 때만 반응하는 "반응형 어시스턴트"에 가까웠습니다.
또한 세션이 종료되면 작업 경험이 대부분 사라진다는 명확한 한계를 가지고 있었습니다.
하지만 Dreaming이 도입된다면,
자신의 과거 행동을 되돌아보고 더 나은 방향으로 스스로 개선해가는 AI로 탄생합니다.
이전에 비슷한 문제에서 어떤 실수를 했는지 기억하고,
사용자가 어떤 스타일을 선호하는지 학습하고,
반복되는 실패 패턴을 줄여 나간다면?
시간,비용적 측면에서 효율적인,
경험을 통해 성장하는 Agent가 만들어질 수 있음을 의미합니다.
Dreaming의 한계
Dreaming은 매우 흥미로운 기술이라고 생각하지만, 아직 초기 단계의 기술인 만큼 여러 가지 한계점이 존재한다고 생각합니다.
먼저 가장 근본적인 정확성 문제입니다
"정말 올바르게 회고할 수 있을까?"
AI가 자신의 행동을 평가하고 성찰한다는데,
그 평가를 인간이 얼마나 신뢰할 수 있을까요?
잘못된 평가에 기반된 결론을 장기 기억으로 저장한다면 성능이 오히려 떨어질 수도 있습니다.
"비용 문제"
Dreaming은 단순한 응답 생성보다 더 많은 연산을 필요로 합니다.
- 세션 기록 읽기
- 패턴 분석
- reflection 생성
- memory 업데이트
와 같은 행동을 계속 수행해야 하므로 장기적으로 봤을 때는 효율적이라고 말하지만, 비용이 많이 드는것은 변함없습니다.
"신뢰성 문제"
AI가 스스로 기억을 저장하고 행동 전략까지 수정한다면,
우리는 어디까지 그 판단을 신뢰할 수 있을까요?
"어떤 회고를 통해 어떤 중요한 기억을 저장하여, 어떻게 행동 전략을 수정하였다"
AI의 memory update 과정이 충분히 투명하지 않다면,
우리는 그 Agent를 신뢰할 수 있을까요?
어떤 중요한 기억을 저장했는지, 그 기억이 어떻게 행동 전략을 바꾸게 되었는지, 이해할 수 있을까요? 그 전에 읽을 수 있을까요?
깊이 생각해볼 문제인 것 같습니다.
마무리
Dreaming 기술은 background 환경까지 활용하는 한 단계
더 진화한 Agent 기술처럼 느꼈습니다.
지금의 AI가 "잘 대답하는 도구"라면,
Dreaming이 적용된 AI는 "경험을 통해 성장하는 동료"에 가까워질지도 모르겠습니다.
또한 실수를 통해 배운다는 것이, RPG 게임에서 캐릭터를 키운다는 것과 비슷하다는 생각이 들었습니다.
아직은 완벽하지 않을지언정, 시간을 들일수록 성장하고, 스스로 복기하고, 배우고, 더 나은 판단을 가져오는 강력한 Agent가 탄생한다는 게 무섭기도 하고 든든하기도 합니다.
아직은 초기 단계의 개념이지만,
Dreaming은 단순히 "더 똑똑한 AI"가 아니라
"스스로 성장하는 AI"로 가는 방향성을 보여준다는 점에서 매우 흥미로운 기술이라고 생각합니다.
