Lambda Labs
Lambda Labs 홈페이지
Lambda Labs는 비교적 저렴한 가격으로 on-demand GPU를 빌릴 수 있는 서비스입니다. 최신 GPU인 H100도 지원하고 있으며, 가격 플랜은 다음과 같습니다.
가이드라인
영상 가이드라인입니다. 영어로 되어있지만, 작업을 하나하나 다 보여주는지라 참고하기 좋습니다.
장점
- 알아본 GPU 클라우드 서비스 중 가격과 서비스 안정성 측면에서 가장 가성비가 좋습니다.
- 현재 비용 측면에서 개인 사용자가 쓰기에는 가장 적합한 서비스로 보입니다. AWS나 Azure, GCP는 사용하기에는 너무 부담이 크고, 머신을 맞추자니 VRAM이 큰 GPU는 가격도 비싸고, 특히 RTX 시리즈는 전기를 많이 먹기 때문에 발열이나 전기세가 부담되는 면도 있습니다. 이미지 생성은 최소 VRAM 16 GiB, 권장 VRAM 24 GiB로 작업해야 원할합니다.
- ssh 뿐 아니라 Amazon SageMaker처럼 ipynb 형식으로도 바로 접속할 수 있도록 지원합니다.
- NVIDIA Driver, CUDA, cuDNN이 모두 설치된 상태에서 인스턴스를 제공합니다. 따로 설치에 시간을 할당할 필요가 없습니다.
단점
- 모델 같은 파일 다운로드/업로드가 약간 느린 편입니다.
- 항상 원하는 GPU를 대여받을 수는 없습니다. 대신 특정 GPU를 원하면 빨리 대여할 수 있게 해달라고 독촉을 넣는 것은 가능합니다.
주의점
- 결제 시 MASTERCARD 등이 가능하지만, 선불카드인 체크카드 등은 사용할 수 없습니다. 반드시 결제수단을 등록할 때 후불인 신용카드로 등록하도록 합시다.
- 만약 지속적으로 결제수단 등록에 실패할 경우, 결제수단 등록이 24시간동안 잠깁니다. 따로 안내가 오진 않으므로 문의를 넣고 주의하도록 합시다.
- 작업이 끝나고도 까먹고 계속 켜두거나 삭제하지 않으면 요금이 엄청나게 나갈 가능성이 높습니다. 항상 주의하도록 합시다.
- 항상 모든 GPU가 있는 것은 아닙니다. 현재 대여할 수 있는 GPU가 다음과 같이 뜨니 상황에 맞춰서 잘 사용하셔야 합니다. 대신에 on-demand라 사용하다가 끊기는 일은 없는 것이 가장 큰 장점이라고 볼 수 있습니다.
- Shared filesystems를 지원해서 매번 다른 GPU를 대여받더라도 매번 저장된 스토리지를 불러올 수 있는 시스템이 있습니다. 다만, 사용하는만큼 매달 GiB당 0.20 USD가 청구됩니다. Stable Diffusion XL을 위주로 기본적으로 개당 6 GiB를 차지하는 다양한 파인튜닝 모델을 실험하고 학습하다보면 1TB는 금방 차기 때문에 이 점을 고려하여 비용 계산을 하셔야합니다.
Content Creator and Researcher with AI technology