저는 ChatGPT 없이는 개발을 하지 못하는 사람이 되었습니다. 학습의 패러다임이 바꼈다고나 할까요. 이전에는 필요한 지식이 있다면 책부터 펴서 쓸지 안쓸지 모르는 전반적인 내용을 습득하느라 정신없고 비효율적으로 시간을 보냈다면, 이제는 제가 모르는 것만 취사 선택에서 지식을 습득할 수 있게 됐습니다. ChatGPT를 통해 저는 Rust, Python, nestjs 등을 빠른 시간 내에 필요한 로직을 작성할 수 있게 됐습니다.
저는 AWS에서 주최하는 교육으로 DNA라는 이름이 붙은, 벌써 6년째 매년 주제가 바뀌는 교육에 참여하게 됐습니다. 올해 주제는 GenAI입니다. 단어가 생소했는데, ChatGPT는 잘 쓰고 있으면서도 정작, 그 서비스에 기반이 되는 개념인 GenAI는 몰랐을 정도로 아무것도 모르는 상태였습니다.
ChatGPT와 같이 LLM을 활용하기 위해 필요한 지식과 기술을 배우는 시간을 갖게 됐고, 매주 수요일, 6주간 적지 않은 기간을 해당 교육을 수료하게 됐습니다. ChatGPT와 같은 서비스를 사용할 줄만 아는 유저에서, ChatGPT와 같은 서비스를 만들 수 있는 사람이 될 수 있다는 건 개인적으로는 저에게는 굉장히 메리트가 있다고 생각했습니다.
해당 교육은 GenAI라는 주제를 가지고 PoC를 만드는 과제가 있었습니다. FAQ 데이터를 OpenSearch에 임베딩하고, Sementic을 4, Lexical을 6 비율로 해서 Hybrid Search를 통해 얻은 Context와 instruction으로 사전에 필요한 내용을 설정하고 클라이언트에서 받아낸 user query를 잘 조합해서 zero-shot 방식으로, 나온지 얼마 안된 가장 최신 모델인 Claude 3.5 Sonnet LLM에게 백단에서 질의하고 response 받은 내용을 다시 클라이언트에게 돌려주는 챗봇으로 PoC 개발을 하게 됐습니다.
위에 문단은 배운 티좀 낼려고 애써 말을 좀 어렵게 써본 것이었습니다. 6주간 배운 내용에 대해 제가 이해한 바대로 GenAI 개념을 사용해서 한줄로 요약하라고 하면 위에 문단과 같습니다.
매주 수요일날 시간을 할애한다는 것은 꽤나 부담스러웠지만, 지나고 나니 체감상 오히려 짧게 느껴졌습니다. 교육은 끝났지만, PoC를 고도화하여 실제로 운영 중인 서비스에 붙이기 위한 여정은 아직 남은 상태입니다. 성능적인 면이나 비용적인 면, 사용량 제한, 프롬프트 엔지니어링, RAG를 더 심화적으로 다루기 위한 고민과 연구를 계속 진행해야합니다.
관련되어 구체적인 기술에 대해서는 또 시간을 내서 다른 지면에 작성해보도록 하겠습니다.
