CUDA, cuDNN 버전 확인

nvcc 명령어로 CUDA 버전 확인하기

• 명령어 nvcc --version 또는 nvcc -V를 입력하여 확인 가능
• nvcc 명령어를 사용하기 위해서는 CUDA 환경변수 등록이 필요함
• 윈도우에서는 CUDA 설치 시 자동으로 환경변수가 등록되지만 리눅스에서는 직접 등록 필요 (설치과정 참고)

설치 경로로 CUDA 버전 확인하기

• 윈도우 CUDA 경로는 C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v??.?
• 리눅스 CUDA 경로는 /usr/local/cuda-??.?

cuDNN 버전 확인

• CUDA가 설치된 경로의 include 폴더(디렉토리)에서 cudnn_version.h 파일 확인
• CUDA 10 버전대에서는 cudnn_version.h가 따로 없고 cudnn.h에서 확인이 가능

GPU와 TF, PyTorch 호환성을 고려한 설치 버전 찾기

GPU 호환성 확인

TF 호환성 확인

PyTorch 호환성 확인

개인적인 팁

• Anaconda를 사용할 수 있으면 conda 가상환경에서 별도로 하위 버전의 CUDA, cuDNN 설치가 가능
• Docker를 사용하는 경우에도 컨테이너에서 별도로 하위 버전의 CUDA, cuDNN 설치가 가능
• CUDA 최신 버전은 최신 그래픽카드에 맞는 더 빠르고 좋은 기능들을 제공할 것으로 예상
• 위 이유들로 인하여 가능하면 최신 버전의 CUDA와 cuDNN을 설치하는게 좋음
• 다만, 특정하게 원하는 버전이 있다면 해당 버전으로 걍 설치하는 것도 나쁘지 않은 듯

Linux Ubuntu에 CUDA Toolkit, cuDNN 설치하기

설치에 앞서...

• 출처: https://settembre.tistory.com/447
• 이전 버전은 지우고 설치하는 것을 권장한다.
• Windows에서는 [프로그램 추가/제거]에서 삭제가 가능하다.
• Linux에서는 아래의 명령어로 삭제가 가능하다.

# NVIDIA 드라이버 완전 삭제
sudo apt-get purge nvidia*
sudo apt-get autoremove
sudo apt-get autoclean

# CUDA 완전 삭제
sudo rm -rf /usr/local/cuda*
sudo apt-get --purge remove 'cuda*'
sudo apt-get autoremove --purge 'cuda*'

(WSL 사용 시) CUDA on WSL 드라이버 설치하기

• https://developer.nvidia.com/cuda/wsl 에서 드라이버 파일을 받아 Windows 호스트에 설치
• 드라이버 설치 후 재부팅 권장

CUDA Toolkit 설치하기

• https://developer.nvidia.com/cuda-toolkit-archive 에서 설명대로 파일을 받아 설치

• WSL은 반드시 Ex. 2를 따를 것!

• Ex. 1) Ubuntu 18.04(x86)에서 CUDA Toolkit 11.7 로컬로 설치하기

wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64/cuda-ubuntu1804.pin
sudo mv cuda-ubuntu1804.pin /etc/apt/preferences.d/cuda-repository-pin-600
wget https://developer.download.nvidia.com/compute/cuda/11.7.0/local_installers/cuda-repo-ubuntu1804-11-7-local_11.7.0-515.43.04-1_amd64.deb
sudo dpkg -i cuda-repo-ubuntu1804-11-7-local_11.7.0-515.43.04-1_amd64.deb
sudo cp /var/cuda-repo-ubuntu1804-11-7-local/cuda-*-keyring.gpg /usr/share/keyrings/
sudo apt-get update
sudo apt-get -y install cuda

• Ex. 2) WSL2 Ubuntu 18.04(x86)에서 CUDA Toolkit 11.7 로컬로 설치하기

wget https://developer.download.nvidia.com/compute/cuda/repos/wsl-ubuntu/x86_64/cuda-wsl-ubuntu.pin
sudo mv cuda-wsl-ubuntu.pin /etc/apt/preferences.d/cuda-repository-pin-600
wget https://developer.download.nvidia.com/compute/cuda/11.7.0/local_installers/cuda-repo-wsl-ubuntu-11-7-local_11.7.0-1_amd64.deb
sudo dpkg -i cuda-repo-wsl-ubuntu-11-7-local_11.7.0-1_amd64.deb
sudo cp /var/cuda-repo-wsl-ubuntu-11-7-local/cuda-*-keyring.gpg /usr/share/keyrings/
sudo apt-get update
sudo apt-get -y install cuda

cuDNN 설치하기

1. cuDNN Archive에서 cuDNN 압축파일 다운로드
2. 압축파일 해제 후 각 파일들을 CUDA 설치 경로로 복사(아래의 명령어 참고)

tar -xvf ${cuDNN 압축파일}
sudo cp ${cuDNN 압축해제된 파일}/include/* /usr/local/cuda/include
sudo cp ${cuDNN 압축해제된 파일}/lib64/* /usr/local/cuda/lib64
# 혹은 sudo cp ${cuDNN 압축해제된 파일}/lib/* /usr/local/cuda/lib
sudo chmod a+r /usr/local/cuda/include/cudnn.h /usr/local/cuda/lib64/libcudnn*

CUDA 환경변수 등록하기

1. ~/.bashrc 파일 마지막에 환경변수 추가
   [참고] 파일명 앞에 .은 숨김파일이라는 뜻

# <<< CUDA Toolkit >>>
export PATH
export PATH=/usr/local/cuda/bin:$PATH
export LD_LIBRARY_PATH=/usr/local/cuda/lib64:/lib63:$LD_LIBRARY_PATH
# >>> CUDA Toolkit <<<

2. source ~/.bashrc 또는 재시작으로 환경변수 적용

Windows에 CUDA Toolkit, cuDNN 설치하기

CUDA Toolkit 설치하기

cuDNN 설치하기