3달이 지난 해커톤 후기..
이미 많이 까먹었지만 더 까먹기 전에 후기를 한 번 적어볼까 한다..
해커톤 진행 과정
테디노트님의 랭체인 노트를 기반으로 매주 시험이 진행됐고 RAG, 랭체인/랭그래프, 에이전트 및 멀티 에이전트 등에 대해 학습하고 매주 시험을 봤다
재직 중이여서 야근이 너무 잦았고 매주 시험공부를 하기 귀찮아서
누워서 공부할 때가 많았지만 그래도 매주 시험을 보면서 지식이 늘어난 기분이 들었다
랭체인/랭그래프/RAG 이런 단어만 들었을 때는 엄청 무서웠는데
막상 배우니 그냥 체이닝 형태로 파이프라인을 구성하는 것이었구나하며 새로운 기술에 대해서 겁을 좀 덜 먹을 수 있었다
(그렇게 시험들을 다 통과해 역량 인증서도 받았지만 진짜 역량이 있는지는 아직은 의문..)
LLM도 랭체인/랭그래프 등의 기술을 사용하는 것도 중요하지만
개발과 마찬가지로 전체적인 아키텍처 설계를 하는 능력이 차후에는 더 중요할 것이라고 생각했다

사실 테디노트님 영상이 유튜브 피드에 많이 뜨긴 했는데 강의를 직접 본 것은 처음이었다. 슈크림 빵도 나눠주셔서 친절하시다고 생각했다(두개 먹음)
강의 내용은 실무에서 LLM 관련 컨설팅을 하며 겪은 다양한 이야기들과, 커서(Cursor)의 등장과 함께 주목받고 있는 MCP를 중심으로 진행되었다.
에이전트를 만들어 카카오톡에 연결해 사용하는 시연 영상과, 랭체인(LangChain)·랭그래프(LangGraph) 관련 자료로 학습된 MCP 서버 + Cursor를 활용해 에이전트가 직접 프로젝트를 생성하는 과정이 인상 깊었다.
강의 이후엔 스미더리 같은 MCP 마켓을 구경해보고, 피그마용 MCP를 활용해 프론트 구성을 시도해보기도 했다. 이런 경험을 통해 기획을 제외한 많은 개발 업무가 이제는 AI로 충분히 대체 가능한 수준에 이르렀다는 생각이 들었다.
최근엔 토스에서 PG 연동을 MCP 서버로 구현한 사례까지 등장하면서, 이제는 기업들조차 본격적으로 MCP 시장에 뛰어들고 있다는 걸 체감하게 됐다.
MCP가 에이전트가 사용한 툴을 올려놓는 역할이라 생각하면 백엔드 개발에서 또 엄청 생소한 개념은 아니지 않나라는 생각을 하기도 했다
Fast api로 올릴 수 있으니 도구를 만들어 올려봐야겠다는 생각을 했다
이제는 랭체인보다는 랭그래프로 가는 추세라는 얘기도 많이 했는데
랭그래프가 젠킨스 등과 다른 점이 무엇인가 이런 의문을 품기도 했다 (랭스미스 등에서 워크플로우 개입 가능 등이 다르다고 하긴 했지만..)
openai 보다는 클로드에서 정보를 많이 공개한다 했고
이번 강의도 해당 내용들이 많이 있는 것을 확인할 수 있었다
해커톤은 캐럿글로벌 본사에서 진행됐다(한남동 사옥이 아주 멋있었다ㅎㅎ)
백엔드 & 데이터 분석가만 5명 모아놓은 해커톤은 처음봐서
기획 & 디자인 & 프론트 포지션을 하고자 하는 사람이 없었고
때문에 백엔드보다는 기획/디자인/아키텍처 설계 및 발표 포지션을 맡아 다른 사람들을 서포트 하는 방향으로 진행하려 했다
무엇보다 해커톤 시간이 반나절로 너무 짧아서 발표자료를 미리 준비해가지 않으면 안될 것 같다는 생각을 해서
주제가 정해지자마자 전날부터 미리 발표 구성을 준비했다
함께한 팀원분들은 대부분 AI를 회사에서 도입하고자 하는 니즈가 있어서
모인 분들이었고, 때문에 함께 일을 하면서 구체적인 여러 기술과 이슈에 대해 알 수 있었다

실무에서는 Milvus라는 오픈소스 벡터 디비를 많이 사용하는 듯 해서
우리 팀도 해당 기술을 사용하였다
pdf 내용을 rag할 때 해당 벡터 디비를 사용했는데, UI 상에서 벡터 내용을 확인할 수 있었다
출처, 파일명 등의 메타 데이터도 실무에서는 유의미하게 사용된다고 하여
해당 값들도 잘 설계해서 넣도록 했다

실무에서 멀티 에이전트를 사용하는 분의 말을 들어보니, 맨 처음에 라우트 노드(에이전트) 를 놓고 이를 통해 특정 작업에 맞는 에이전트로 라우팅하는 방식을 많이 사용한다고 했다
특히 요구사항이 늘어날 수록 라우팅 에이전트 뒤에 있는 에이전트들을 점점 붙여나가는 방식을 많이 사용한다고 하여 위와 같이 설계를 하게 됐다
시간이 짧아서 많은 것을 개발할 수는 없었지만
어떤 식으로 실무에서 에이전트를 사용하는지 맛보기(?) 정도를 한 것 같았다
느낀 점
신기술에 대해서 공부를 하는 것이여서 아직은 해당 영역에 전문가라는게 있나라는 생각을 했다(물론 이런 기술을 직접 개발하는 석박사는 다르지만..)
그리고 랭그래프의 경우 앞선 단계에서 잘못되면 뒤의 단계도 다 잘못될 가능성이 높아서 중간에 크리틱을 두기도 하고 사람이 개입할 경우도 있다고 했다
agent 자체도 완전한 것은 아니여서 위험성이 낮은 부분부터 도입을 해야겠다 생각을 했다
그럼에도 일단 뭐라도 만들어봐야겠다고 생각했다