Out of Memory 해결법

LeeWlWL·2025년 1월 19일
gpu

기타

목록 보기
3/3
  1. Batch size 한자리 수로 줄이기
  2. Accumulation step (Batch size / mini batch size) 1쪽으로 줄이기
  3. Gradient checkpointing 진행
  4. QLoRa (엥간히 안될때)
profile
LeeWlWL
진화중이에요
이전 포스트

Node.js - MongoDB 연동 [] 해결법

0개의 댓글