39일차

1. 배운 내용

사람 승인

AI 에이전트를 활용할 때 사람 의도와 목적과 다르게 행동할 가능성이 있기 때문에 위험도에 따라 AI 에이전트의 활동에 대한 사람의 개입이 필요할 수 있다.
워크플로우 안에 사람 승인 절차를 포함해서 제어하는 방식을 보통 human in loop라 한다.

2. 실제 작업한 내용

간단한 실습

사람 승인이 구현된 코드를 보고 실습을 했다. 에이전트 상태를 관리해서 중단해도 재개할 수 있도록 하면서 위험도에 따른 정책으로 사람 승인 절차를 필요한 곳에 넣어서 관리하는 방식이다.

팀 프로젝트

계획서 작업을 마무리하고 각자 맡은 역할에 따라 구현할 수 있도록 관리하고 있다.

3. 소감

팀 프로젝트를 전에 경험을 해서 좀 더 편하게 관리할 수 있는 것 같다. 하네스 관련 실험으로 의도를 계획에서 구현까지 갈 수 있는 파이프라인을 실험하고 있다. 내가 가진 추상적인 부분을 구체적으로 표현하지 못하는 것과 내 안에 정리 되어 있지 않은 애매한 것들과 알지 못하는 부분에 대해서 계속 부딪히게 된다.
결국 그 내용을 부분적으로 흡수하고 AI에 맡기는 방향으로 가는데 어쩔 수 없이 추상적이고 큰 방향만 잡게 된다.
방금 생각이 났는데 지금 실험하는 방향의 반대 방향도 고려하면 괜찮아질 것 같다.