AWS FOR ML-OPS

1. Intro aws는 남아도는 인기없는 instance를 효율적으로 판매하기 위해 spot이라는 서비스를 제공한다. aws의 ec2 instance의 life cycle은 크게 RI, on-demand, spot 3개가 있다 1-1 on-demand 가장 기본 형

spark을 쓰기 위해서 EMR 클러스터를 띄우고 운영하는 것은 어려운 일이다. EMR 클러스터가 각종 이유로 장애에 빠질 수 있기 때문이다.또한 효율적으로 운영하기도 힘들다. 아마존에는 lambda 처럼 serverless spark 서비스가 존재한다. aws glu

AWS에는 Inf1이라는 인스턴스 타입이 존재한다. Inf1은 aws의 inference 전용 칩인 NeuronCore을 사용한 기계학습 추론용으로 나온 인스턴스이다특별한 목적(기계학습)을 가지고 나온 인스턴스인 만큼, 머신러닝 모델 추론에 특화 되어 싸고 빠르게 모델