베드락 교육 마지막날
Bedrock Agentforce에서 mcp 도구들과 대화 이력, 자원 할당 여부를 확인할 수 있다.
시작 전 삼성클라우드 VM 기반 온프레미스 데이터레이크(HadoopEchosystem&Spark)가 관리포인트가 많으니 AWS의 편리한 서비스를 활용하면 어떨까 질의를 했는데, 프라이빗 환경에서는 온프레미스의 데이터플랫폼이 유리할 수 있다는 답변을 들었다.
자료 : https://main.d2scmcktf0dgwa.amplifyapp.com/#/module/M01-MultiAgent
다중 에이전트 아키텍처 및 통신 패턴
에이전트가 여러 도메인을 동시에 처리하면, 연산 오버헤드가 발생한다.
다중 에이전트로 구성하면 단점은 있겠지만 컨텍스트를 줄여 정확도를 높일 수 있다.
오늘 에이전트 실습은 에이전트를 각 노드로 분산시켜 진행할 예정이다.
예시
agents/
├── orchestrator.md # 라우팅·응답 종합
├── order_agent.md # 주문 상태·반품·환불
├── product_agent.md # 제품 추천
├── tech_support_agent.md # 기술 지원
└── billing_agent.md # 청구·결제
stands vs LangGraph 설명 : https://jjjjqqq.tistory.com/111#google_vignette
Strands 오케스트레이션 3종 샘플 코드
① 워크플로 (Workflow) — 결정적 DAG, 사이클 없음. 태스크와 종속성을 코드로 명시 → 예측 가능한 병렬·순차 실행.
② 그래프 (Graph) — 노드·엣지 기반, 조건 분기·피드백 루프 허용. LLM이 실행 경로를 결정하는 동적·구조적 흐름.
③ 스웜 (Swarm) — 사전 정의 경로 없이 자율 핸드오프. 각 에이전트가 자체 판단으로 다음 에이전트에게 바톤을 넘김(창발적 지능).
메모리 및 상태 관리
에이전트 장/단기 메모리 관련 : https://twentytwentyone.tistory.com/1973 , https://wikidocs.net/329186
메모리와 하드웨어(SSD/DRAM)의 관계단기 메모리와 DRAM단기 메모리는 빠른 속도로 읽고 쓰는 것이 중요하므로 휘발성이 강하고 속도가 빠른 주기억장치(RAM/DRAM)나 임시 캐시 메모리를 주로 활용합니다.
장기 메모리와 SSD장기 메모리는 전원이 꺼져도 유지되어야 하므로 비휘발성 저장장치인 SSD나 하드디스크(HDD), 클라우드 스토리지에 기록됩니다.다만, AI 코딩 에이전트나 로컬 자동화 시스템이 끊임없이 장기 메모리 데이터를 읽고 쓰고 수정하는 과정에서 SSD에 빈번한 I/O(입출력)가 발생해 SSD 수명(쓰기 수명/TBW) 마모를 유발할 수 있으므로 주의가 필요합니다.
컨텍스트 엔지니어링
어떻게 하면 멀티 에이전트를 실행하면서 토큰 사용을 최적화 할까?
어시스트베리라는 AI챗봇을 운영하면서 컨텍스트 엔지니어링, 프롬프트 엔지니어링, 하네스 엔지니어링 등등... 모두 필요하다.
금일 교육 이후 활용해서 나의 플랫폼에도 반영할 예정.
[컨텍스트 진단 프레임워크]
완전한 AI챗봇 플랫폼을 만드려면 응답 품질에 대해서 정확하게 알고 체크하는 과정이 필요하다. assitberry는 현재까지는 최대한 최적화를 했는데, 많이 실행시키면서 단점을 확인해야 한다.
컨텍스트 관리를 잘 못하였을 경우 아래와 같은 문제가 생긴다.
LLM마다 컨텍스트 윈도우 크기가 다르다. Gemini, Deepseek의 api 명세서를 확인해보자. 비용도 비용이지만 어느순간에 호출이 막힐 수 있다.
(어차피 assitberry의 경우 5회 대화 이후 새로운 llm으로 압축한는 과정이 있지만..)
토큰 최적화 포맷 확인 : https://medium.com
아래는 AWS SDK에서 제공하는 압축 기능인데, assitberry에도 이미 해당 기능을 개발했다.
아래 내용도 사실상 GEMINI API에 모두 있는 기능이다. Strands를 사용하여 config를 넣어야할지는 의문.
해당 SDK는 일반 챗팅 플랫폼보자는 Agentic AI에 필요한 기능만 있는 것 같다.
심지어 단일 노드 구성이 아닌 클러스터형 Agentic AI에 탁월하다.
스웜 방식을 활용하면 오케스트레이터를 굳이 AWS SDK를 사용할 필요가 있을지 의문이다. 그냥 상용 오픈소스에도 좋은 Tool이 많다. (오픈클루같은...)
그리고 베드락에 종속이 되지 않고 여러 AI를 활용하면 더 에이전트 성능이 향상될 것이라고 생각한다. (랭그래프 + 외부 LLM API 조합)
Agentic AI Security Scoping Matrix — 자율성 4범위
자격증명
오류 시나리오
