docker를 사용하는 이유는 개발 환경을 독립시키는 것에 있으며, 컴퓨팅 리소스가 각 컨테이너 별로 독립적으로 운영된다.
Nvidia GPU를 활용할 경우, 해당 장비의 드라이버를 기반으로 하고 있으며 딥러닝 등의 인공지능 연구개발을 위해 CUDA를 활용하려면 관련 툴들을 설치할 필요가 있음
설치 가이드
1. nvidia driver install (ubuntu-24.04 LTS)
- ubuntu 24.04 LTS 는 nvidia driver를 자동으로 다운 받는 옵션이 있어, 대부분 있을 것으로 예상하지만 혹시 모를 상황을 대비하여 남겨둠
- 추천 드라이버 확인
ubuntu-drivers devices- nvidia-driver 버전 설치
sudo apt install nvidia-driver-[version number] ex) sudo apt install nvidia-driver-550- system reboot
sudo reboot- 설치 확인
nvidia-smi
2. nvidia-container-toolkit 설치
- nvidia repository 구성
curl -fsSL https://nvidia.github.io/libnvidia-container/gpgkey \
| sudo gpg --dearmor -o /usr/share/keyrings/nvidia-container-toolkit-keyring.gpg
curl -s -L https://nvidia.github.io/libnvidia-container/stable/deb/nvidia-container-toolkit.list \
| sed 's#deb https://#deb [signed-by=/usr/share/keyrings/nvidia-container-toolkit-keyring.gpg] https://#g' \
| sudo tee /etc/apt/sources.list.d/nvidia-container-toolkit.list
sudo apt-get update- nvidia container toolkit packages 설치
sudo apt-get install -y nvidia-container-toolkit- nvidia driver를 사용하도록 도커 구성
sudo nvidia-ctk runtime configure --runtime=docker
sudo systemctl restart docker- 설치 확인 (nvidia-container-runtime)
which nvidia-container-runtime-hook- 설치 최종 확인
- 실행이 안된다면, sudo 적용해보고도 안되는지 확인 필요
docker run --rm --runtime=nvidia --gpus all ubuntu nvidia-smi
or
sudo docker run --rm --runtime=nvidia --gpus all ubuntu nvidia-smi
Error 모음
docker: Error response from daemon: could not select device driver "" with capabilities: [[gpu]]- nvidia container toolkit 를 재설치할 것.
docker: error response from daemon: unknown or invalid runtime name: nvidia/etc/docker/daemon.json에 runtimes에서nvidia가 있는지 확인- 없다면, nvidia container toolkit 재설치
- 있다면, 해당 파일을 접근할 수 없는 이슈 이기 때문에 docker 실행시 sudo 적용
Ex) sudo docker run --rm --runtime=nvidia --gpus all ubuntu nvidia-smi
References
이것저것 글쓰는 TPM 지망자