[AWS SageMaker Workshop] MLOps란

11월 1일과 8일, 머신러닝 과목 특강으로 AWS SageMaker Workshop을 들었다.

MLOps의 컨셉을 이해하고, AWS의 SageMaker를 사용해보는 좋은 기회였기에 기록해보려한다.

---

포스트는 다음과 같은 순서로 이어진다.

• ML과 SageMaker, 그리고 MLOps

• SageMaker 사용법

• cloud9 사용법

• streamlit, FastAPI 사용법

---

SageMaker

왜 머신러닝이 클라우드 환경에 적합한가?

바로, 클라우드의 유연성(확장성)때문이다.

기존에는, 컴퓨팅 자원의 수요가 유동적으로 바뀔 수 있음에도 이에 대응할 수 없었다.

하지만, 클라우드 환경에서는 컴퓨팅 엔진을 필요에 따라 언제든지 늘릴 수 있기 때문에, 상황에 유연한 대응이 가능해진다.

SageMaker를 쓰면 어떤 이점이 있는가?

요약하면 다음과 같다.

• 모델 학습과 모델 배포의 서비스화: SageMaker는 크게 모델 학습과 배포 두 가지를 쉽게 할 수 있도록 서비스화한 제품이라고 생각할 수 있겠다.

• 모델 학습:
  • 모델 학습의 자원 활용 극대화
  • 빌트인 알고리즘부터 커스텀 알고리즘까지 모두 지원
  • 자동 하이퍼 파라미터 튜닝 기능을 제공

• 모델 배포
  • 다양한 모델 배포 방식 지원
  • shadow test 및 자동 배포 등의 프로세스 지원

SageMaker 모델 학습의 이점

• 노트북과 작업 인프라를 분리했음
  (노트북 기반이면 팀 작업, 환경 관리 등이 어려움)

• 다수의 인스턴스로 확장하여 훈련 가능.

SageMaker 모델 서빙의 이점

• 모델 서빙: 엔드 유저들에게 모델을 제공하는 방법을 사용하기 쉽게 하는 거

• SageMaker 빌트인 모델 서빙의 주요 패턴 4가지

  • 리얼타임 추론: 실시간으로 대응해야 할 때
  • 배치 추론: 하루, 한달, 1년씩 쌓여있는 데이터들에 대응할 때. (지정된 시간에)
  • 비동기 추론: 실시간은 아니지만, 지속적으로
  • 서버리스 추론

---

MLOps

MLOps란?

MLOps란,
머신러닝과 운영을 합친 용어로, 프로덕션 환경에서 머신러닝 모델이 지속적이고 안정적으로 배포되도록 유지, 관리, 모니터링 해주는 것이다.

단순히, 모델을 사용한 시스템을 관리하는 것이 아니라,
데이터 수집, 분석, 모델 학습, 배포까지 모델의 생애주기를 모두 관리한다.
(출처: https://elice.io/newsroom/whats_mlops)