Pytorch GPU 사용법을 찾아서...

xyz_27·2024년 7월 2일
0

LGAimers Phase2를 이제서야 해보겠다고 붙잡고 있는데, 베이스라인 코드만 돌려도 에포크 1번에 19시간 예상이라고 한다...
(최초 작성일 기준 마지막 날이었음 ㅋㅋ)
이건 말도 안되는 것 같아서 gpu 사용 코드도 있는데 왜 그러지 하고 살펴봤더니

torch.cuda.is_available()

코드에서 False가 떴다.

torch.__version__

으로 버전을 확인해도 2.0.1+cpu 버전으로 확인되었다.

Pytorch에서 GPU를 사용하려면 세팅이 필요하다.
NVIDIA GeForce GTX 2080 Ti 기준으로 작성했다.

1. NVIDIA Driver 설치
2. CUDA 설치
3. cudnn 다운로드 및 설치
4. 환경 및 설치 버전에 맞춰 pytorch 설치
5. GPU 동작 확인

1. NVIDIA Driver 설치

🔗NVIDIA Driver 설치 페이지

이와 같이 그래픽 카드에 맞춰 설정 후 Search 버튼을 누른다.

검색된 드라이버를 다운로드 후 안내에 따라 설치한다.
설치 완료 후 재시작이 필요하다.

2. CUDA 설치

CUDA를 설치하기 전에 Pytorch 설치에 요구되는 버전들을 확인해야 한다.

🔗PyTorch 설치 안내

위와 같이 PyTorch Stable 버전(23/08/28 기준, 2.0.1), Windows, Pip, Python 환경의 경우,
CUDA는 11.7, 11.8 버전 설치가 가능하다.

🔗CUDA Toolkit 설치

11.8 버전으로 설치해 보았다.

local은 설치파일 전체를 다운로드해서 용량이 크다.
network로 다운받았다.

3. cudnn 다운로드 및 설치

🔗cuDNN 설치

CUDA 버전에 맞추어 cuDNN v8.9.7 (December 5th, 2023), for CUDA 11.x 설치

4. 환경 및 설치 버전에 맞춰 pytorch 설치


(23.12.11. 기준)
torch 2.1.1 까지 업그레이드 됨
파이썬 3.8.9로 설치해서 사용함 (https://www.python.org/downloads/release/python-389/)
%pip install torch==2.1.1+cu118 torchvision==0.16.1+cu118 torchaudio==2.1.1+cu118 --extra-index-url https://download.pytorch.org/whl/cu118


(24.07.02. 기준)
torch-2.3.1+cu118-cp310-cp310-linux_x86_64.whl
torchvision-0.18.1+cu118-cp310-cp310-linux_x86_64.whl
torchaudio-2.3.1+cu118-cp310-cp310-linux_x86_64.whl

까지 업그레이드 됨. linux 기반 python 3.10 버전 기준.
%pip install torch==2.3.1+cu118 torchvision==0.18.1+cu118 torchaudio==2.3.1+cu118 --extra-index-url

5. GPU 동작 확인

torch.cuda.is_available()

0개의 댓글