Deep learning Framework

분산 학습 및 추론을 쉽고 효율적, 또 효과적으로 만드는 딥러닝 최적화 라이브러리 DeepSpeed ZeRO

Reference https://www.deepspeed.ai/getting-started/ https://huggingface.co/docs/transformers/main_classes/deepspeed https://junbuml.ee/huggingface-deepspeed-fairscale 이전 트레이닝 방식 학습 device CPU Single...