AWS Tech Camp 를 들으며 개인적으로 정리한 내용입니다. 자세한 내용은 가이드링크 를 참고해주세요.
손쉬운 Agent 조합으로 복잡한 문제를 해결하는 자비스(스마트비서) 만들기
설명 및 소개, 실습 두 개의 파트로 나누어져 있다.
목차
- AI Agent 란 무엇인가?
- Multi-Agent 워크플로우
- Amazon Bedrock 의 Multi Agent Collaboration 기능 소개
- 워크샵 실습 소개
AI Agent 란 무엇인가?
원래 순수한 LLM 은 날씨 질문과 같은 실시간 정보에는 접근을 할 수 없다. 우리는 여기에 추가적으로 날개를 날아줘서 AI 가 실시간 정보에 접근할 수 있게 만들것이다.
AI는 reasoning, acting, evaluating/reflecting 의 흐름으로 생각 한다. 질문에 대해 이해하고, 행동하고(API 요청), 행동에 대한 결과를 받아 응답을 생성한다. 생각→행동→평가 라고 한다.
이를 위해서는
- 백엔드 LLM 에서 추론/사고 능력이 필요함
- AI Agent 를 강화하기 위한 프롬프트 엔지니어링이 필요함
Single AI Agent 의 직면 과제
작업이 점점 복잡해짐에 따라
- 많은 도구들이 있어서 도구 선택의 어려움
- 많은 하위작업들의 워크플로우 관리의 어려움
- 더 복잡한 프롬프트 필요
- 간단한 하위 작업에도 단일(일반적으로 고성능인)LLM 사용
Multi-Agent 워크플로우
앤드류 응(스탠포드 교수) 는 트위터에 “Multi Agent Collaboration이 중요한 AI Agent 설계 패턴으로 떠오르고 있다.” 라고 이야기했다. 소프트웨어 개발 이라는 작업을 하나의 AI가 하는 것이 아니라 실제 세계처럼 엔지니어, 제품 관리자, 디자이너, QA 등 서로 다른 역할을 맡은 Agent들이 담당하도록 하는 것이다.
이를 위해 Divide and conquer 전략을 사용하여
- 특정 하위 작업에 특화된 다중 에이전트 도입
- 에이전트 간의 의사 소통
에이전트간의 소통이 굉장히 중요한 문제가 된다. 하나의 에이전트의 출력을 다른 에이전트의 입력으로 넣을 수 있지만 그렇게 된다면 에이전트들 간의 통신이 병목이 될 수 있다. 이를 위해 상위관리자인 Supervisor AI Agent 를 도입하는 방법이 있다.
Multi-Agent 의 직면 과제
- 개발해야할 구성 요소가 더 많음
- 각 AI Agent 마다 백엔드 로직에 대한 구성과 프롬프트 등의 구성이 필요함
- 다중 에이전트의 조율(오케스트레이션)
- 원활한 협업을 위해 Supervisor Agent 가 필요
- 사용자의 요청에 따라 Agent 들의 상호 작업이 달라질 수 있음
- 더 높은 운영 비용
- Agent 리소스를 각자 생성하고 Agent 마다 각자 관리애햐하기에 운영 비용이 높아짐
Agent 에서는 가장 간단한 솔루션이 가장 좋은 솔루션이라고 한다. Agent 가 아닌 LLM 이나 검색 증강이 해법이 될 수 있다면 그것으로도 충분하다. Agent 도입에 따른 cost 를 정확하게 이해하고 있는 것이 중요하다.
Amazon Bedrock 의 Multi Agent Collaboration 기능 소개
Agent 를 만들기 위한 오픈소스는 우선 랭그래프가 있다. 오늘은 아마존 Bedrock 에서는 Single 또는 Multi Agent 를 손쉽게 만들 수 있다.
Bedrock 은 생성형 AI 앱 구축을 위한 모델 및 도구 이다. 아마존 모델과 파트너 모델 둘 다 사용 가능하다.
- Foundation Model 을 선택하고
- 간단한 프롬프트를 작성하고
- 적절한 데이터 소스를 선택한 뒤
- 사용 가능한 작업을 지정
해서 사용해 볼 수 있다.
Bedrock 은 Multi-Agent Collaboration 기능을 탑재하고 있다. 체크박스를 체크하여 활성화 시키는 것 만으로 각 에이전트들을 Supervisor 에이전트에게 연결해줄 수 있다.
워크샵 실습 소개
워크샵에서 사용할 시나리오는 다음과 같다.
배경:여러분은 글로벌 자동차 기업의 마케팅 팀 직원
소개: 분기마다 신제품/신차 출시 전략을 위한 마케팅 인사이트 보고서를 작성해야 하는데, 이 과정에서 수많은 자동차 데이터를 분석하고, 시장 동향을 조사하고, 경쟁사 정보를 수집한 다음 이 모든 정보를 종합하여 실행 가능한 인사이트로 변환해야 합니다.
목표: 마케팅 인사이트 AI 어시스턴트 구축 "마케팅 인사이트 어시스턴트, 신형 자동차 모델 XXX에 대한 시장 진입 전략 기획서를 작성해줘."라고 말하면, 여러 전문 AI Agent가 협력하여 종합적인 기획서를 제공하는 솔루션이 있다면 어떨까요?
실습은 아래 링크로 들어가서 실행해볼 수 있다. AWS Event 등록 없이 진행할 수 있으니 궁금한 사람들은 따라해봐도 좋을 것 같다.
⚠️ 루트 계정으로 진행하면 Amazon Bedrock 에서 Agent 를 생성할 수 없으므로 권한을 가진 IAM 계정(예를 들면 Admin)으로 진행이 필요하다. 본인이 IAM 계정이 없거나 왜 해야 하는지 모른다면 여기에서 확인해 볼 수 있다.
실습 링크: https://catalog.us-east-1.prod.workshops.aws/workshops/c68a2fb4-8b25-480f-ab0b-129778f96d4d/ko-KR
출처: AWS Tech Camp
