1. nvtop이란?

nvtop은 NVIDIA GPU를 실시간으로 모니터링할 수 있는 대화형 도구입니다. htop과 유사한 방식으로, 터미널에서 직관적인 그래픽 UI를 제공하여 GPU의 상태를 한눈에 파악할 수 있다!!

2. nvtop 예시

이런 식으로

• 실시간으로 GPU 사용률과 메모리 사용량 모니터링
• GPU에 연결된 모든 프로세스 정보 제공
• 다중 GPU 모니터링 지원
• 팬 속도, 전력 소비량 등 하드웨어 정보 확인 가능

할 수 있다.
자세하게 살펴보면

용어 설명

• PCIe (Peripheral Component Interconnect Express): CPU와 GPU 사이에서 데이터를 주고받는 인터페이스로, 데이터 전송 속도를 결정합니다. GEN 3@16x는 3세대 PCIe에서 16개의 레인을 사용하는 것을 의미합니다.

• RX (Receive): GPU가 데이터를 받는 속도입니다.

• TX (Transmit): GPU가 데이터를 전송하는 속도입니다.

• MEM (Memory): GPU에서 사용 중인 메모리 용량을 나타냅니다.

실시간으로 GPU 사용을 시각적으로 재밌게 살펴볼 수 있어 좋다.!!

(nvidia-smi 시대는 갔나?)