모델이 GPU에 올라가는지 가늠하기

https://huggingface.co/spaces/Vokturz/can-it-run-llm

• model name에 GPU에 올리고자하는 모델의 huggingface 레포명 작성 (ex. mistralai/Mistral-Large-Instruct-2411)

  • 해당 레포에 대해 접근 권한이 필요할 시, 접근 권한 부여 받은 후 자신의 Access Token을 넣어야 함.

• GPU Vender, Filter by RAM을 이용해 본인의 GPU 선택

  • LoRA 학습 시도 시 파라미터 % 설정 가능

• 오른쪽 화면에 GPU 몇 개가 필요한지 계산해서 나옴