MLOps 전환?

현재 다니는 회사에서는 Hadoop과 물리 서버로 이루어진 추천 플랫폼을 추천팀에서 별도로 운영중이다. 즉, 추천팀 내에서 인프라에 대한 운영 역할과 동시에 서버 간 연동 포인트에 대한 개발 및 운영 그리고 추천 알고리즘에 대한 개발 및 유지보수 마지막으로 Hive Query와 SBP라는 WF 관리 시스템을 활용하여 추천과 연관된 전반적인 시스템을 end-to-end로 담당하고 있다. 이러한 현황때문에 추천팀에는 과도한 R&R이 부여되어 있고, 그만큼 업무량이 매우 많은 상황이다.

이러한 상황 속에서 작년에 MLOps팀이 신설되었다. 시작은 단순히 DS들의 보다 나은 학습 환경 구축을 만들기 위해 신설된 팀처럼 보였지만, 올해부터는 MLOps팀이 구축한 시스템 안에서 상용 서비스를 Serving하는게 어떤지에 대한 Task가 들어왔다.

기회인지 위기인지 바쁨인지 여유인지 모르겠으나, 이러한 MLOps의 Needs를 반영한 상용 서비스 테스트가 내가 담당한 아이들나라 서비스에 들어오게 되었다. 상용에 Serving중인 추천 Container 하나를 별도로 따서 MLOps 환경에서의 Feasibility를 체크하자는 것이었다.

그리 어려운 일은 아니라고 생각된다. Docker Container 및 환경에 대한 관리는 MLOps팀에서 진행해준다고 하였기 때문에, 현재 Serving되고 있는 추천 Container중 하나에 대한 Docker Image와 그 안에 소스 코드를 저장하여 제공하면 된다.

다만 근본적으로 잘 돌아가고 있는 추천 플랫폼의 GPU 환경을 MLOps 환경으로 왜 변경해야 하는지에 대한 의문이 생겼고, 지피지기면 백전백승이라는 마인드로 MLOps에 대한 공부를 시작하고자 한다.
(물론 임원진들의 생각 과정은 "MLOps 핫하네 팀 하나 만들자" → "팀 만들었는데 가시적인 성과가 없으니 상용 서비스 붙이자" → "추천팀에 상용 Product가 많으니 그쪽에 물어보자" 일 것 같다. 회사란 참 전문성이 없는 집단이라고 생각이 든다.)

아무튼 이 5. MLOps 태그에서는 MLOps에 대하여 전반적으로 공부한 사항과 필요성 그리고 소스 코드 레벨에서의 지식을 정리하고자 한다.