컴퓨터가 자아를 가지고 협업한다고? 'Generative Agents: Interactive Simulacra of Human Behavior' 논문 리뷰

Joshua·2024년 12월 17일

AI

목록 보기

3/3

요즘 AI와 LLM 공부에 빠져 있는데
작년 논문이지만 정말 재미있는 논문이 있어서 가져왔다😎
이 논문에 대해 간단히 소개하자면 ChatGPT를 이용해 25개의 Agent를 생성하고, 이 에이전트들이 서로 어떻게 상호작용하는지에 대해 시뮬레이션해본 ~~엄청나게 재미있어 보이는~~ 논문이다.

Joon Sung Park. (2023). Generative Agents: Interactive Simulacra of Human Behavior. arXiv.org. https://arxiv.org/abs/2304.03442v2

1. 📚 요약

이 논문에서는 '생성 에이전트(Generative Agents)'라는 개념을 소개한다. 생성 에이전트는 언어 모델을 기반으로 하여 사람의 행동을 사실적으로 시뮬레이션하는 컴퓨터 소프트웨어 에이전트이다. 이를 통해 몰입형 환경, 대인관계 의사소통 연습, 프로토타입 도구 등의 상호작용형 애플리케이션을 구현할 수 있다. 저자들은 이 에이전트가 자신의 경험을 자연어로 기록하고, 반성하며, 행동을 계획하는 메커니즘을 설명한다.

2. 🏡 시뮬레이션 환경

[생성 에이전트]

생성 에이전트는 현실적인 인간 행동을 모사하기 위해 설계된 컴퓨터 에이전트로 이 에이전트들은 자아를 가지며, 특정 행동을 계획하고 이를 실행할 수 있다. 연구팀은 이러한 에이전트들이 어떻게 서로 소통하고 환경과 상호작용하는지를 연구했다. 각 에이전트는 개인적인 기억과 경험을 기반으로 한 상호작용을 통해 진화하고 독특한 사회적 행동을 생성한다.

웹 데모에서는 각 에이전트의 현재 활동과 위치를 알 수 있다.
또한 에이전트들에게 부여된 여러 항목(생활 양식, 메모리 저장, 대화 내역 등)을 알 수 있다.

[샌드박스 환경]

이 연구에서 제안된 샌드박스 환경은 "Smallville"이라고 하며, 이는 The Sims 게임을 기반으로 한 가상의 마을을 구현한다. 이 환경에서는 25명의 개별 생성적 에이전트가 존재하며, 사용자와 상호작용할 수 있다. 에이전트들은 자연어를 사용하여 서로 대화하고 정보를 교환하며, 이러한 상호작용을 통해 사회적 행동을 형성한다.

[아키텍처]

Generative Agents의 아키텍처

메모리 스트림
에이전트의 경험과 행동을 기록하는 구조로, 향후 참조를 위해 세밀하게 기록됨. 이 기억은 해당 메모리가 생성된 시간과 설명으로 구성.

기억 검색 및 선택 메커니즘
에이전트는 필요할 때 적절한 기억을 검색하여 이를 기반으로 행동을 결정할 수 있다. 이 검색 과정은 recency(최신성), importance(중요성), relevance(관련성)의 세 가지 기준을 통해 이루어지며, 각 기억에 점수를 부여하여 가장 적합한 기억을 선택한다. 이 메커니즘은 에이전트가 상황에 적응하고 일관된 행동을 유지하는 데 기여한다.

반영(Reflection)
기초적인 경험을 추상화하여 더 복잡한 추론으로 발전시키는 과정. 에이전트는 이 정보를 바탕으로 더 나은 결정과 일반화를 위해 학습함.

계획(Planning): 에이전트는 효율적으로 행동을 계획하고, 이러한 계획을 기반으로 행동을 실행함. 이들은 주변 환경의 다른 상황 변화에 맞춰 자신의 행동을 조정.

[사례 연구 및 결과]

논문에서는 Isabella라는 에이전트가 발렌타인 데이 파티를 열도록 설정하는 실험을 통해 사회적 상호작용의 사례를 제시한다. 이 에이전트는 친구와 고객에게 초대장을 보냈고, 그 과정에서 여러 상호작용과 관계가 형성되었습니다. 에이전트들은 서로의 기억을 공유하면 자유롭게 행동하여 복잡한 사회적 행동을 전개하는 데 성공했다.

이사벨라의 계획을 들은 다른 에이전트들은 또 다른 에이전트에게 이 소식을 전하고, 이 소식을 접한 에이전트는 이사벨라에게 계획이 잘 진행되고 있는지 물어보는 등의 상호작용이 일어난다.

3. 🌟 Insight

인간 행동 모방 가능성
이 연구는 생성적 에이전트가 흡사한 인간과 같은 행동을 할 수 있음을 보여준다. 에이전트들은 실제 상황속에서 환경에 적응하거나 상호작용 할 수 있다.

사회적 상호작용의 역동성
에이전트 간의 자율적인 정보 교환과 사회적 관계 형성은 사전 프로그래밍 없이 이루어지며, 이는 인간의 상호작용 모델을 보다 정확하게 시뮬레이션할 수 있는 가능성을 제시함.

기술적 미래 전망
생성적 에이전트를 통한 연구는 인간-컴퓨터 상호작용의 새로운 패러다임을 제시할 뿐만 아니라 사회적 시스템에 대한 테스트 및 프로토타이핑, 복잡한 대인관계 처리 방안 제시 등 다양한 분야에 응용될 수 있다는 점에서 큰 의의를 갖고 있다.

4. 🔍 한계

설명 가능성 부족
생성적 에이전트의 행동은 복잡한 메모리와 반응 구조에 의해 결정되지만 모든 행동이 어떻게 발생하는지에 대한 설명이 항상 명확하지 않을 수 있다.

메모리 처리의 비효율성
에이전트는 메모리를 효과적으로 관리하고 활용하는 데 한계가 있다. 메모리 저장이 잘 이루어지긴 하지만 이를 어떻게 효과적으로 사용할지에 대한 체계적인 접근이 부족하다. 때문에 에이전트가 전형적이지 않은 행동을 하거나 일관성이 떨어지는 경우가 발생할 수 있다.

비용 문제
에이전트의 동작에 따라 발생하는 콜 비용은 상당히 크며, 필요한 연산량이 많아 계산 시간도 길어진다. 이는 시스템의 실시간 반응성을 저하시킬 수 있으며, 실제 애플리케이션에서의 효율성을 영향을 미칠 수 있다. ~~(시뮬레이션을 2일 돌리는 데 수천 달러가 들었다는 이야기도 있다)~~이러한 비용 문제는 대규모 에이전트 시스템의 운영에 있어 주요한 제한 요소가 된다.

사회적 요구와 윤리적 고려
에이전트가 인간의 행동을 모방하는 만큼, 이로 인해 발생하는 사회적 요구와 윤리적 문제를 충분히 고려하지 못할 수 있다. 사용자들이 이러한 시스템에 대해 과도한 신뢰를 가지거나 잘못된 사용을 하게 될 우려가 있으므로, 이를 해결하기 위한 체계적 접근이 필요하다.

5. 결론

Generative Agents는 단순한 NPC 이상의 역할을 하며, 복잡한 사회적 환경 속에서 실제 사람들과 유사하게 행동할 수 있다. 이 연구에서의 발견은 AI와 인간의 상호작용을 보다 깊이 있게 이해하는 데 기여할 것이며, 향후 AI 기술의 발전 방향을 제시한다.
본 연구는 앞으로의 AI-인간 간의 상호작용이 직접적으로 영향을 미칠 수 있는 게임, 교육, 심리치료 등 다양한 분야에서 흥미로운 적용 사례를 제공할 수 있다. 이러한 기술적 발전은 잠재적으로 인간의 사회적 행동을 보다 깊게 이해하고 재현할 수 있는 기회를 만들어준다.
그러나 Generative Agents는 사회적 상호작용의 방식에 중대한 영향을 미치며, 긍정적인 부분을 넘어 여러 부정적 요인들도 존재한다. 이를 통해 기술이 발전함에 따라, 사회적 상호작용에 미치는 다양하고 복합적인 영향들을 고려해야 할 필요성이 있다. 기술적인 진보가 이루어질수록 이러한 영향에 대한 심도 깊은 논의와 윤리적 고찰이 병행되어야 할 것이다.

6. 개인적인 견해

처음에는 "무슨 SF 소설 이야기 하나" 하면서 논문을 살펴봤는데, Agent에게 상세한 prompt를 부여하고 그에 맞는 상호작용을 시키기 위해 많은 작업을 진행한 연구팀의 노력이 보여서 숙연해졌다. 이 논문에서는 단순히 agent가 만났던 빈도 수, 최근 대화 기록만으로 행동을 선택하는 것이 아닌 '실제 사람이 선택할만한 이유'를 가지고 agent들을 상호작용 시키기 위해 여러 작업을 진행하였다.
인간의 상호작용은 매우 복잡하다. 이성적인 판단, 감정적인 생각, 현재 처해진 환경 등 고려 요소가 수도 없이 많다. 이런 복잡한 메커니즘을 어떻게 구현하나 겁먹고 시도하지 않는 것보다 조금 부족한 면이 있어도 시도를 해본 것이 발전의 시작이자 이 논문이 가지고 있는 의의가 아닐까 싶다.