저의 경우... RTX 3070ti 그래픽 카드를 사용하고 있습니다.
https://www.wikiwand.com/en/articles/CUDA#/GPUs_supported
위의 사이트에서 자신의 그래픽 카드에 맞는 버전 확인.

저는 3070ti 그래픽 카드 이므로, 8.6 입니다.

위의 표에서 나타내는 것은 12.0 버전의 경우 5.0 ~ 9.0 안의 범위를 모두 커버한다는 뜻 입니다.
따라서, 저는 11.1 버전부터 12.4 버전까지 모두 사용할 수 있으므로 최신 버전을 사용하겠습니다.
CUDA 설치
https://developer.nvidia.com/cuda-toolkit-archive
에서 맞는 버전 설치.
local (exe)로 설치할 것.
cu-DNN설치
https://developer.nvidia.com/cudnn-downloads?target_os=Windows&target_arch=x86_64&target_version=10&target_type=exe_local
에서 설치.
cudnn을 cuda로 이동
cudnn이 설치된 곳인 C:\Program Files\NVIDIA\CUDNN\v9.7로 이동.
이 곳의 모든 bin, include, lib 세 개의 폴더를 cuda 파일에 덮어씌우기.
시스템 환경변수 편집
-> 시스템 변수 편집 -> path에 추가.
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.8
경로를 추가.