Raspberry Pi 5에서 GPU로 Whisper/TTS 돌리기 - 3. PyTorch / Vulkan Backend(2) PyTorch 빌드(vulkan)

이전 글을 읽고 Vulkan SDK를 설치하셨다면,
이제 PyTorch를 Vulkan Backend 로 build 해줘야 합니다.

https://pytorch.org/tutorials/prototype/vulkan_workflow.html
요것도 공식 매뉴얼을 더 좋아하시는 분들을 위해서,,, (위 사이트에서 Building PyTorch For Linux 부분 참고)

1. PyTorch 소스 가져오기

git clone https://github.com/pytorch/pytorch 해서 pytorch의 소스를 다운받아줍니다.

2. Dependencies 설치하기

다운받아진 pytorch 소스 폴더 내부로 이동해서,
pip install -r requirements.txt 를 실행합니다.

3. Swap file 크기 늘리기

(이전 글이랑 똑같아서 복붙ㅎ)
RAM용량이 부족할 때, 컴퓨터는 RAM에 올라와 있는 데이터 중, 별로 안 중요한 것들을 Swap file에 쏟아버립니다. 나중에 필요할 때 다시 가져오면 되니까요.
그런데 Swap 파일의 용량도 부족해진다면????

컴퓨터가 시원하게 뻗어버립니다,,,
이를 방지하기 위해서 Swap 파일 용량을 늘려주어야 합니다.

제 Raspberry Pi 5는 8GB인데, 안전빵으로 Swap file 크기를 4GB는 넣어주어야 VulkanSDK/PyTorch가 빌드 되더라구요????말도안돼

먼저 /etc/dphys-swapfile 을 텍스트 편집기(vi, gedit, nano 등등)로 열어준 다음,

위와 같이 CONF_SWAPSIAE와 CONF_MAXSWAP을 4096으로 바꾸고 저장해줍니다.

그 다음 재부팅!!!

4. Build 하기

다시 pytorch 소스 폴더 내로 이동해서,

USE_VULKAN=1 USE_VULKAN_SHADERC_RUNTIME=1 USE_VULKAN_WRAPPER=0 MACOSX_DEPLOYMENT_TARGET=10.9 CC=clang CXX=clang++ python setup.py install

위 명령어를 실행하면 빌드가 시작됩니다.

와 이거 진짜 너무너무너무너무오래걸려요
Vulkan SDK도 오래걸렸는데 이건 더 오래걸립니다 진짜 하루종일 걸림ㅋㅋㅋ.ㅋ.ㅋ..ㅋㅋㅋㅋ.ㅋ..ㅋ.....
설치 시켜놓고 다른 일 하고 계시면 될 것 같습니다...

---

빌드와 install 과정이 끝나면, 이제 잘 설치되었는지 확인해봅시다.

terminal에 python 입력한 후에,

import torch
torch.is_vulkan_available()

위 코드를 실행해봅시다.

>>> torch.is_vulkan_available()
True

True
True!!!!!!!!!!!!!!

ㅁㅁㄹㄴㅇㄹㄻㄴㅇㅁㄴㄻㅁㄴㅇㄹ성공
다 드루와.

---

PyTorch 빌드 한 거 pip 설치파일(whl 파일)로 모아뒀는데, 필요하신 분은 댓글 남겨주세요!
(PyTorch / ARM64 / Vulkan Backend)