GPU 대여 서비스를 찾던 와중에 https://vast.ai/ 라는 곳을 찾았습니다. 한글로 된 사용 설명이 잘 없는 것 같아서 사용 방법에 대해서 정리해봤습니다. 저도 처음 써보는 사이트라 부족하거나 잘못된 부분이 있을 수도 있습니다.
+) 다 쓰고 보니까 추천인 제도가 있는 것을 알아버렸습니다. 진짜로 노리고 쓴건 아닙니다...
여기로 접속해서 회원가입 해주시면 제가 3%의 이득을 봅니다. 안해주셔도 됩니다. 그냥 그렇다구요.
대여하기
우측 상단의 Console을 눌러 시작합니다. 회원 가입과 카드 등록 등등은 알아서... 참고로 GPU 사용이 종료되면 반드시 Stop이 아닌 Destroy를 하라고 합니다. 자세한 내용은 FAQ를 참고하세요.
창 좌측을 보면 EDIT IMAGE & CONFIG...가 있는데 여기서 원하는 Docker image를 선택하면 됩니다.
원하는 도커 이미지를 선택하면 이렇게 시작 방법을 선택할 수 있습니다. 저는 SSH로 했습니다. 다른 방법을 해보고 싶으신 분들은 공식 홈페이지 가이드를 참고해주세요.
이후 좌측의 Filter를 이용하여 여러가지 조건을 주고 해당 조건을 만족하는 GPU를 대여하면 됩니다.
접속하기
ssh로 접속하기로 했으니까 ssh key가 필요합니다. 저는 wsl2에서 Ubuntu 22.04.1 LTS를 사용중입니다.
아래 명령어를 통해 key 쌍을 생성합니다.
$ ssh-keygen -t rsa
>>> Enter file in which to save the key (/home/xxx/.ssh/id_rsa):
>>> Enter passphrase (empty for no passphrase):
>>> Enter same passphrase again:
>>> Your identification has been saved in /home/xxx/.ssh/id_rsa
>>> Your public key has been saved in /home/xxx/.ssh/id_rsa.pub
>>> The key fingerprint is:
>>> SHA256: XXXXXXXXXX...
>>> The key's randomart image is:
>>> XXXXX...이후 아래 명령어를 통해 키를 확인하고 복사합니다. 아래 키는 홈페이지에서 소개된 예시 키입니다. 마지막에 user@something을 꼭 빼먹지 말고 모두 다 복사하세요!
$ cat ~/.ssh/id_rsa.pub
>>> ssh-rsa AAAAB3NzaC1yc2EAAAADAQABAAZBAQDdxWwxwN5Lz7ubkMrxM57CHhVzOnZuLt5FHi7J8zFXCJHfr96w+ccBOBo2rtBBTTRDLnJjIsKLgBcC3+jGyZhpUNMFRVIJ7MeqdEHgHFvUUV/uBkb7RjbyyFcb4BCSYNggUZkMNNoNgEa3aqtBSzt47bnuGqKszs9bfACaPFtr9Wo0b8p4IYil/gfOY5kuSVwkqrBCWrg53/+T2rAk/02mWNHXyBktJAu1q9qTWcyO68JTDd0sa+4apSu+CsJMBJs3FcDDRAl3bcpiKwRbCkQ+N63ol4xDV3zQRebUc98CJPh04Gnc41W02lmdqFL2XG5U/rV8/JM7CawKiIz3dbkv bob@velocity
마지막으로 저 버튼을 눌러서 제일 아래 키 요구 란에 붙여넣기 하면 됩니다. 까먹고 캡쳐를 못했네요!
모든 과정이 완료되면 아래처럼 접속할 수 있는 명령어를 줍니다. 복붙하면 완료!
$ ssh -p 어쩌구 저쩌구...확인해보니 잘 빌려진 것 같네요!
$ nvidia-smi
>>>
Wed May 10 12:00:29 2023
+-----------------------------------------------------------------------------+
| NVIDIA-SMI 465.19.01 Driver Version: 465.19.01 CUDA Version: 11.3 |
|-------------------------------+----------------------+----------------------+
| GPU Name Persistence-M| Bus-Id Disp.A | Volatile Uncorr. ECC |
| Fan Temp Perf Pwr:Usage/Cap| Memory-Usage | GPU-Util Compute M. |
| | | MIG M. |
|===============================+======================+======================|
| 0 NVIDIA GeForce ... On | 00000000:02:00.0 Off | N/A |
| 66% 57C P8 11W / 250W | 1MiB / 11019MiB | 0% Default |
| | | N/A |
+-------------------------------+----------------------+----------------------+
+-----------------------------------------------------------------------------+
| Processes: |
| GPU GI CI PID Type Process name GPU Memory |
| ID ID Usage |
|=============================================================================|
| No running processes found |
+-----------------------------------------------------------------------------+