59일차

1. 배운 내용

멀티 에이전트 시스템에서의 보안과 가드레일

멀티 에이전트 시스템에서도 보안과 가드레일에 대한 부분은 다른 시스템과 크게 다르지 않다. 다만 AI 에이전트가 있는 시스템이기 때문에 추가로 필요한 것들이 있다. 프롬프트 인젝션에 대한 방어와 에이전트의 권한, 결과값 관리 등이다. 보통 정책을 결정한 후에 정책에 따라 세부사항들을 정하면 될 것 같다.

2. 실제 작업한 내용

실습

간단한 예제로 프롬프트 인젝션 방어, 입출력 검증(형식, 내용), 에이전트의 권한 확인, 사람 승인, 멱등성, 컨텍스트 분리, 데이터 유출 방지 등을 실습했다.

CI/CD 복습

깃 액션으로 AWS에 배포까지 되는 과정을 복습했다.

3. 소감

예전에는 막연한 개발 과정이 프로젝트에서 팀장 역할을 경험하면서 점점 중요하게 생각해야 될 기준들이 만들어지고 그에 대한 우선순위를 결정할 수 있어진 것 같다. 기획자이자 설계자로서 프로젝트를 진행하는 것은 프로그램 기획 및 설계도 있지만 사람들의 이끌어 가는 것도 고려해야 하고 이건 직접해보는 게 가장 배우는 데에 큰 도움이 되는 것 같다.
그리고 설계는 모든 게 충족된 상태에서 이뤄지는 게 아니라 현재의 제약 사항 속에서 최적의 설계를 찾아내는 것이라는 걸 느끼고 나서 어떤 상황이라도 크게 문제될 게 없는 것 같다.