nvidia-smi로 확인해보는 GPU 정보

김태우·2025년 4월 5일

인공지능 개념

목록 보기
3/3

※ 추가 사항 설명
+Type : C, G, C+G
C:컴퓨트 모드, CUDA library를 활용하여 CUDA Tensor로 연산하는 역할을 수행
G:그래픽 모드, 3D그래픽, 게임 등에 사용되는 Video Rendering을 위주로 활용됨
C+G:컴퓨트+그래픽, 둘을 함께 사용하는 프로세서

이중 모르는 부분

Bus-Id : 메인보드(PCIe 슬롯)와 GPU를 매칭할때 쓰이는 PCI버스 Id값
→ 여러 장의 GPU가 탑재된 시스템에서 각 GPU가 어느 슬롯(버스)에 연결되어 있는지 파악할 때
예: 00000000:85:00.0
85:00.0이면, Bus=85 / Device=00 / Function=0

Volatile Uncorr. ECC : Volatile Uncorrectable ECC Errors로, ECC는 Error-Correcting Code의 준말; 메모리에 발생하는 비트 오류 감지 및 정정;
Off라면 ECC가 비활성화

Compute M. : GPU Compute Mode로, 예전 Tesla, HPC GPU에 지원되던 기능으로 구형 드라이버/HPC 환경에서 Exclusive Mode 또는 Prohibited Mode로 설정할때 있었던 설정.
지금은 대부분 Default로 두는 경우가 많다.

MIG M. : Multi-Instance GPU Mode로, NVIDIA A100 이상에서 지원하는 하드웨어 파티셔닝 기술 => 단일 GPU를 독립적인 여러 인스턴스로 쪼개서 별도의 GPU로 할당할 수 있는 기술
(On : MIG 활성화, GPU를 여러 파티션으로 분할중, Off : 일반 단일 인스턴스 모드)

profile
학부생의 성장 일기, 관심있는 분야:NLP

0개의 댓글