runpod 클라우드 플랫폼

대학원을 졸업하고 새로운 gpu 환경을 찾다가 발견한 플랫폼. 아래 여러가지 대안을 두고 고민하다가 이것으로 최종 결정했다.

1. GPU 장착된 컴퓨터 세팅 → 초기 비용 多, 계속 켜둘 때 동작 소음/전기세 등은 부가적인 문제
2. Colab → 큰 모델 학습 어려움, 데이터 연결/저장이 번거로움
3. aws, azure 클라우드 → 비싸다 ...
4. runpod → 조작이 편하고 싸다!

도커 컨테이너 기반의 플랫폼이고 파드를 띄우는 것도 매우 간단하다. 하지만 대학교 1,2 학년 이후로 클라우드 환경에서 하는 건 오랜만이라 몰랐는데, 비용 때문에 클라우드를 껐다켰다 하는 게 은근히 귀찮고 불편하다..

우선은 $50 결제해두었는데, 쓰다가 별로면 다시 바꿀 생각이다. 아래는 50G storage를 이용했을 때 내역.

클라우드/스토리지 비용이 시간 단위로 청구되는데 우선 스토리지는 꽤 싸다. GPU는 테스트용으로 제일 저렴한 것을 결제한 거라 본격적으로 학습하게 되면 정확히 얼마나 나갈지 모르겠다. 나중에 A100 80G로 시도해보고 후기를 남길 예정!

※ ssh로 시작할 때 넣어줘야 되는 커맨드

bash -c 'apt update;DEBIANFRONTEND=noninteractive apt-get install openssh-server -y;mkdir -p ~/.ssh;cd $;chmod 700 ~/.ssh;echo "$PUBLIC_KEY" >> authorized_keys;chmod 700 authorized_keys;service ssh start;sleep infinity'