Introduction

MLOps 시스템 구축해보기

M1 Apple Silicone Mac을 사용중인데 이 환경에서는 Virtual Box를 사용하기 쉽지 않다.
따라서 나는 UTM, Virtual machines for Mac을 이용해 가상환경을 구축하였다.
해당 가상머신 소프트웨어는 Ubuntu 20.04.3LTS 실습 운영체제를 지원하고 있어, M1 Mac에서 실습을 수행하는 것을 가능하게 한다.

구성요소

원활한 환경에서 테스트하기 위해 싱글 노드 클러스터 (혹은 클러스터)와 클라이언트를 분리하여 설명해 드릴 예정입니다.
클러스터는 우분투가 설치되어 있는 데스크톱 하나를 의미합니다.
클라이언트는 노트북 혹은 클러스터가 설치되어 있는 데스크톱 외의 클라이언트로 사용할 수 있는 다른 데스크톱을 사용하는 것을 권장합니다.
하지만 두 대의 머신을 준비할 수 없다면 데스크톱 하나를 동시에 클러스터와 클라이언트 용도로 사용하셔도 괜찮습니다.

클러스터

1. Software
아래는 클러스터에 설치해야 할 소프트웨어 목록입니다.

Software	Version
Ubuntu	20.03.4 LTS
Docker(Server)	20.10.11
NVIDIA-Driver	470.86
Kubernetes	v1.21.7
Kubeflow	v1.4.0
MLFlow	v1.21.0

2. Helm Chart
아래는 Helm을 이용해 설치되어야 할 써드파티 소프트웨어 목록입니다.

Helm Chart Repo Name	Version
datawire/ambassador	6.9.3
seldonio/seldon-core-operator	1.11.2

클라이언트

클라이언트는 MacOS(Intel CPU), Ubuntu 20.04에서 검증되었습니다.

Software	Version
kubectl	v1.21.7
helm	v3.7.1
kustomize	v3.10.0

Minimum System Requirements

모두의 MLOps를 설치할 클러스터는 다음과 같은 사양을 만족시키는 것을 권장합니다.
이는 Kubernetes 및 Kubeflow의 권장 사양에 의존합니다.

• Cpu: 6 core
• RAM: 12GB
• DISK: 50GB
• GPU: NVIDIA GPU (Optional)