잘 못 설치된 cudnn을 제거하고 다시 재 설치를 하기 위해 글을 작성합니다.
!! 글의 순서대로 따라 가시면 안됩니다!! 순전히 제가 잘 못 했던 행동들을 기록하기 위한 글 입니다!!
읽으시면서 잘 못 한 행동들은 skip하시고 나머지 제대로 잘 된 동작들만 따라하시길 바랍니다!
sudo apt-get --purge -y remove 'cuda*'
sudo apt-get --purge -y remove 'nvidia*'
sudo apt-get autoremove --purge cuda
순서대로 입력 후 먼저 cuda를 제거해 줍니다.
cd /usr/local/
sudo rm -rf cuda*
를 통해 cuda와 관련 있는 다른 파일들을 함께 제거합니다.

먼저 sudo rm -rf /var/cudnn-local-repo-ubuntu2204-8.9.7.29를 입력하여 cudnn을 제거합니다.
다음으로 sudo nano /etc/apt/sources.list.d/cudnn-local-repo-ubuntu2204-8.9.7.29.list를 입력하여 줍니다.
이후 update를 하여 확인해보니 아직 제대로 된 삭제가 되지 않았음을 확인할 수 있었습니다.
이에 따라 다시 새로운 방법을 모색해야 됐습니다.

이후 아래의 커맨드를 입력하여 다시 제대로 삭제하려고 시도 했습니다.
sudo rm -rf /var/cudnn-local-repo-ubuntu2204-8.9.7.29
ls /etc/apt/sources.list.d/
를 입력하여 list 를 확인했습니다.
sudo nano /etc/apt/sources.list.d/cudnn-local-repo-ubuntu2204-8.9.7.29.list를 입력하여 제거 하였습니다.

이후 삭제가 완료 되었는지 확인하기 위해서
dpkg -l | grep -E 'cuda|cudnn'를 입력하여 확인했으나 제대로 삭제가 이뤄지지 않아서 cudnn이 그대로 나왔습니다.
뭔가 잘 못 쳤다는 것을 이때 깨달았습니다.

그래서 또 또다시 이런 행동을 반복적으로 했으나 역시나 제대로 삭제가 될리가 없었고 이 때 오류를 제대로 읽으면서 잘 못 쳤다는 것을 알 수 있었습니다.

sudo apt purge cudnn-local-repo-ubuntu2204-8.9.7.29를 입력하여 제대로 제거를 할 수 있었습니다.
이 후 다시 제거를 확인하기 위해서 dpkg -l | grep -E 'cuda|cudnn'를 치자 이제는

이런 화면이 나오는게 아니라 아무것도 터미널에 출력이 되지 않으면서 제대로 제거가 된 것을 확인할 수 있었습니다.
상당히 먼 길을 돌아갔지만, 결과적으로 제대로 제거가 됐음을 확인할 수 있었고 이를 통해서 다시 재설치를 할 수 있는 준비를 완료할 수 있었습니다.