보통 Deep Learning은 인간의 뇌를 모방하여 만들었기 때문에, 좋은 성능이 나오는 것이라고 말한다. 하지만 최성준 교수님은 조금 다르게 딥러닝을 말씀 하셨다. 날기 위해서 모든 비행기 모양이 새를 모방한 것이 아니듯, Deep Learning 또한, 인간의
Gradient Descent의 적절한 Learning rate를 찾는 것은 어려운 일이였다. 최적의 Learning rate를 찾기위한 비용이 너무 컸기에, Gradient Descent만 이용해도 더 좋은 성능을 내고 더 빠른 학습속도를 가질수 있는지에대한 연구가