Deploying a Model : Lesson 2. Building a Model using SageMaker (1)

Comment :

Deployment의 개념을 공부하였다. 뭐 ML모델을 일반사용자에게 배포하고 사용자의 입력들을 다시 데이터로 받아들이는 그러한 '배포'의 개념

REVIEW : ChatGPT에게 Model Deployment를 물어보자

$\rightarrow$ 모델 배포는 훈련된 머신러닝 모델을 생산 시스템에 통합하여 새로운 데이터에 대한 예측을 수행할 수 있도록 하는 프로세스

1. Choose the right infrastructure : 모델을 배포할 인프라를 결정해야 한다. On-premise, Cloud-based or edge devices가 될 수 있다.
2. Prepare the model for deployment : 모델을 배포 가능한 형식으로 변환하고 컨테이너 or 실행가능 파일로 패키징
3. Select a deployment framework : Docker, Kubernetes, 서버리스 컴퓨팅과 같은 프레임워크 선택
4. Develop an API : 모델을 Application, 즉 응용프로그램에 통합하기 위하여 API(Application Programming Interface, 응용 프로그래밍 인터페이스)를 개발
5. Test and Validate the model : 모델을 배포하기 전 실제에서 잘 작동하는지 테스트 및 검증
6. Monitor the model : 모델 배포 후, 잘 작동하고 정확한 예측을 하는지 지속적인 모니터링 필요

---

2. Course - AWS Sign in and Costs

Udacity 페이지 좌측의 '클라우드 게이트웨이 시작'을 통하여 AWS Web Console에 접근하자

[+] AWS(Amazon Web Services) : Amazon의 다양한 웹서비스를 제공하는 곳; EC2(서버), S3(스토리지) 등을 제공

클라우드 게이트웨이 시작을 통하여 AWS Web Console에 접근하면 위와 같은 화면을 볼 수 있다.
알아두어야 할 몇가지 포인트를 알아보자

1. Session limit
   세션 시간제한이 있다. 세션이 끊길 경우 다시 접속해주면 된다.

2. Default AWS region
   us-east-1 or us-west-2 지역으로 하셈

3. The budget allocated for you
   모든 AWS 서비스는 '종량제'이고, Udacity에서는 현재 $25까지 지원 중, (이 과정을 마치는데에는 대략 $10 정도면 충분하다고 판단됨)

4. Shut down your resources | No extra credits
   모든 AWS 리소스 ex) EC2, Sagemaker, Database, EMR, Cloud Formation)은 사용 후 즉시 종료/삭제 권고

5. Tracking your usage
   AWS 비용 관리(AWS Cost Management, explorer)의 결제 대시보드(Billing Dashboard)에서 monthly spending을 볼 수 있다.
   

---

Quiz Question

✅ Any service at $0.1/hour or higher should be monitored closely and shut down immediately after use to avoid exhausting your budge
주어진 AWS 예산을 위하여 모든 AWS 서비스는 사용 후 종료해야함
❌ All progress on the AWS console will be saved even if you exhaust your budget
예산이 모두 소모되더라도 AWS console내의 모든 progress는 저장된다
✅ Most students have completed the program using about $10 from their budget
대부분의 학생들은 $10 정도면 해당 과정을 완료
✅ You will have to work with your personal AWS account to finish the program if you exhaust your budget
만약 주어진 예산 내에서 해당 과정을 완료하지 못할 경우 개인 AWS 계정을 이용하여야 한다
✅ You can track your monthly usage of credits within the AWS billing dashboard
월별 사용량을 체크할 수 있다
❌ You may use an existing personal or federated AWS account for this program.
해당 과정을 위하여 개인 또는 연합 AWS 계정을 이용하여야 한다