MLOps에서 쿠버네티스와 도커가 필요한 이유

MLOps와 쿠버네티스

• Reproducibility: 실행 환경의 일관성 및 독립성

• Job Scheduling: 스케줄관리, 병렬 작업 관리, 유휴 자원 관리

• Auto-healing & Auto-scaling: 장애 대응, 트래픽 대응

도커

• 핵심기능: Containerization

• Containerization: 컨테이너화 하는 기술

• Container: 격리된 공간에서 프로세스를 실행시킬 수 있는 기술

• Bulid Once, Run Anywhere

• Dockerize: 인프라 구축을 위한 방식으로 어느 모델, 어느 방식을 이용하더라도 같은 결과를 나타낸다.

쿠버네티스

• 핵심기능: Container Orchestration

• Container Orchestration: 컨테이너를 관리하고 지휘하는 기술

*설치와 수정이 어려워서 관리 서비스 이용 필수(비용문제있음)

*작은 쿠버네티스 정도는 만들 수 있음

쿠버네티스의 컨셉: 선언형 인터페이스와 Desired State

• 명령형 인터페이스: A를 요리조리해서 하나 만들어

• 선언형 인터페이스: A가 하나 있었으면 좋겠어

쿠버네티스의 컨셉: Master Node & Worker Node

구성: 하나의 마스터 노드와 여러 개의 워커 노드

API Server: 클라이언트 보내는 요청

etcd: 요청을 T_Value형식으로 변환

kubelet: 명령을 받고 현재 상태를 API에게 전달하는 역할,워커노드 내부, 컨테이너 관리