기본 optimizer들에 대해

복습 차원에서 기본 옵티마이저들에 대해 공부해보았다.

참고한 자료

1. https://hiddenbeginner.github.io/deeplearning/2019/09/22/optimization_algorithms_in_deep_learning.html
2. An overview of gradient descent optimization algorithms(https://arxiv.org/abs/1609.04747)