Linux에서 Cuda 다루기

Cuda-capable한 GPU가 없다면 GCP로 인스턴스(VM) 생성 참조

sudo apt install nvidia-cuda-toolkit

• nvcc(nvidia cuda compiler)를 비롯한 toolkit

nvidia-smi

• cuda 버전 확인

nvcc -V

• nvcc 버전 확인

GPU compute capability 확인

NVCC (nvidia cuda compiler)

• 각 compute capability 별로 컴파일 방식이 다름
• 모든 compute capability를 지원하려면 컴파일 시간, exe파일 크기 증가 등의 문제 발생
• -arch, -code 옵션 사용
• -arch
  • -arch=compute_75와 같이 사용
  • 생성될 PTX(Parallel Thread Execution) 코드의 버전 지정
• -code
  • -code=sm_75와 같이 사용
  • 생성될 binary 코드의 버전 지정
• alias를 통해 argue를 주려 했으나 Makefile을 써보기로 했다.
• 참고

Makefile

CC = nvcc
CXXFLAGS = -arch=compute_75 -code=sm_75,compute_75 -o
%.out : %.cu
	$(CC) $(CXXFLAGS) $@ $<
	./$@

clean :
	rm -rf *.out

• CC : 컴파일러
• CXXFLAGS : 컴파일러에 전달할 flags
• .cu 파일이 있는 곳에 해당 Makefile을 생성
• make abc.out shell command ->
  nvcc -arch=compute_75 -code=sm_75,compute_75 -o abc.out abc.cu 컴파일 후 abc.out 실행
  • GPU의 compute capability 확인 후 버전 변경
• make clean shell command -> rm -rf *.out 실행
• Ref
  • https://wiki.loliot.net/docs/lang/cpp/build/makefile/makefile-basics
  • https://www.tuwlab.com/ece/27193
  • https://modoocode.com/311

cudaDeviceSynchronize()

• cuda 연산과 cpu 연산이 동기화 되지 않아 출력되지 않는 문제 발생
• cuda 연산 수행 후 cudaDeviceSynchronize()실행

__global__ void func(){
...
}

int main(){
...
func<<<n,n>>>(); // cuda 연산
cudaDeviceSynchronize(); // cuda 연산이 끝날 때까지 wait
...
}