AWS custom ML model with SageMaker

RABO·2021년 7월 20일
0

bring your own docker container

여러 방식이 있겠지만 이 강의에서 소개하는 방식은 script mode방식이다. script mode 작성하는 방식은 docker container를 사용하는데 간단한 설명은 아래와 같다.
AWS manage container은 ECR에 이미 있음
open source container를 다운받아서 여기다가 우리의 모델을 넣어 준 후에 sagemaker에서 그 container를 가지고 사용한다.

AWS ECR?
ECR이란 개발자가 Docker 컨테이너 이미지를 손쉽게 저장, 관리 및 배포할 수 있게 해주는 완전관리형 Docker 컨테이너 레지스트리입니다. (공식 홈페이지에서 발췌)

Script Mode

  1. AWS-managed container를 지정한다.
  2. model에 필요한 여러 파일들을 작성한다.
  3. SageMaker Estimator가 진입할 entry-point를 지정해준다.
  4. 필요한 extra libraries들을 포함해준다. (requirements.txt)
  5. inference를 위해 web-server를 사용한다.

docker file을 직접 가져오는 경우

  1. 모델 작성
  2. 자신의 모델을 자신의 docker file에 지정
  3. container를 ECR로 등록
  4. sagemaker의 estimator가 ECR의 container 주소를 가르키게 한다.

0개의 댓글