딥러닝 서버 관리_개념 정리

Taehong Jang·2022년 3월 17일
0

딥러닝 서버

목록 보기
1/3

Ubuntu 20.04 위에 anaconda를 활용해 가상환경을 구성하는 방식으로 사용할 예정

CUDA (Compute Unified Device Architecture)

  • CPU가 처리하는 응용프로그램의 계산을 GPU에서 병렬처리로 가능하게 하는 기술

cf. GPGPU(General Purpose GPU) : 단순 그래픽 계산만 하는게 아닌 CPU가 처리해왔던 일들을 처리 할 수 있는 GPU

CUDNN (CUDA Deep Neural Network)

  • GPU 가속 라이브러리, CUDA가 딥러닝 관련 연산 빠르게 처리하게 돕는 라이브러리

  • NVIDIA 기준 정확한 정의
    "The NVIDIA CUDA Deep Neural Network library (cuDNN) is a GPU-accelerated library of primitives for deep neural networks."

"cuDNN provides highly tuned implementations for standard routines such as forward and backward convolution, pooling, normalization, and activation layers."

"cuDNN accelerates widely used deep learning frameworks, including Caffe2, Keras, MATLAB, MxNet, PyTorch, and Tensorflow."

Docker

  • 리눅스의 컨테이너 방식 중에 하나, 프로세스를 분리해서 독립적으로 작동하게 하는 방식
  • 자세한 설명은 여기

SSH (Secure SHell)

  • 네트워크 상의 다른 컴퓨터에 로그인하거나 명령을 실행하거나 파일 전송(cf.ssh의 scp 명령어)등을 가능하게 해주는 프로그램이나 프로토콜을 말함.
  • 공개키, 개인키 방식으로 데이터를 암호화하여 전송하여 보안적인 이유로 사용



Version 확인(설치여부 확인)

  • GPU 확인(딥러닝 서버 NVIDIA 기준)
nvida-smi
  • CUDA version
nvcc -V  또는  nvcc -version
  • CUDNN version
# version 8 이전.
cat /usr/local/cuda/include/cudnn.h | grep CUDNN_MAJOR -A 2

# version 8 이후.
cat /usr/local/cuda/include/cudnn_version.h | grep CUDNN_MAJOR -A 2

참고사이트
CUDA, CUDNN 관련 - https://89douner.tistory.com/158
version 확인 명령어 - https://alex-blog.tistory.com/entry/CUDA-CUDNN-%EB%B2%84%EC%A0%84-%ED%99%95%EC%9D%B8-%EB%B0%A9%EB%B2%9580-%EC%9D%B4%ED%9B%84-%EB%B2%84%EC%A0%84-%ED%99%95%EC%9D%B8-%EB%B0%A9%EB%B2%95-%ED%99%95%EC%9D%B8
코드 블럭 스타일 관련 - https://boxwitch.tistory.com/328

0개의 댓글