포스트 작성 이유
pip3 install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu117
위와 같이 cmd 창에 다음과 같이 pytorch를 설치하고 아래의 코드를 실행한 결과가 False였다.
import torch
torch.cuda.is_available()이를 해결하기 위해 CUDA와 cuDNN 설치가 필요하다.
현재 그래픽 카드 정보
NVIDIA GEFORCE RTX 3060 Ti
CUDA Version 확인
NVIDIA GPU를 사용하기 위해 CUDA 버전을 확인해야 한다.
cmd 창에 아래와 같이 입력하면 자신의 GPU에 맞는 CUDA 버전을 확인할 수 있다.
nvidia-smi
Compute Capability
위의 사이트에 접속하면 CUDA 버전에 맞는 Compute capability 확인 가능하다.
- NVIDIA GEFORCE RTX 3060 Ti의 CUDA capability는 8.6이다.
- 표에서 8.6을 포함하는 모든 CUDA SDK version을 설치할 수 있다.
요구 버전
- CUDA: 12.2
- CUDA capability: 8.6
1. CUDA Toolkit 설치
위에서 확인한 CUDA 버전에 맞는 CUDA Toolkit를 설치한다.
-
구글에 cuda xx.x를 검색 후 nvidia 사이트에서 자신의 OS에 맞도록 다운로드하여 설치한다.
-
아래의 사이트에서 모든 버전을 확인할 수 있다.
-
설치 경로는 다음과 같다.
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.2
-
설치 완료 후 환경 변수는 자동으로 등록되므로 시스템 환경변수에서 CUDA_PATH가 있는 것을 확인할 수 있다.
-
CUDA는 여러 버전을 다양하게 설치해서 사용 가능하다.
2. cuDNN 설치
cuDNN을 설치하기 전에 먼저 NVIDIA Developer Program Membership에 회원가입을 해야 한다.
-
회원가입 후 아래의 사이트에서 CUDA 버전에 맞는 cuDNN을 다운로드한다.
-
다운로드한 파일을 압축 해제하면 bin, include, lib 3개의 폴더가 존재한다.
-
CUDA Toolkit을 설치한 폴더에 위의 3개의 폴더와 이름이 같은 폴더가 존재한다.
-
CUDA Toolkit에 있는 폴더 내의 bin, include, lib 폴더에 cuDNN에서 다운로드한 bin, include, lib 폴더 내의 파일들을 추가한다.
