최적화(Optimizer) 알고리즘

1. 최적화 알고리즘의 종류

Optimizer는 딥러닝에서 Network가 빠르고 정확하게 학습하는 것을 목표로 한다. 주로 Gradient Descent Algorithm을 기반으로한 SGD(Stochastic Gradient Descent)에서 변형된 여러종류의 Optimizer가 사용되고 있다.