[개념] Optimizer

고근호·2023년 10월 11일

Optimizer

  • 그런 지점들을 어떻게 잘 빠져나가서 글로벌 미니멈으로 찾아가는지가 중요한 개념
  • 목적? 글로벌 미니멈 찾는 것

Optimizer 의 핵심

  • 로컬 미니멈들을 빠져나가는 방법을 아직 인간의 능력으로는 알 수가 없음.
  • 근데 현재까지는 도달한 미니멈 지점이 실제 글로벌 미니멈인지 증명할 방법이 없음.
  • 아직 사람이 증명해내지 못했음.
  • 그래서 아직 인간은 딥러닝을 이해하지 못하고 사용하고 있는 중임.
  • 그래서 서로 다른 로컬 미니멈들에 도달하는 거였음.
  • 결국 사실은 글로벌 미니멈에 도달하지 않은 것임.
  • 근데 빠진 그 미니멈들이 로컬 미니멈은 아닐지라도 의미가 있는 미니멈 지점임.
  • 그래서 사용하고 있는 것임.

  • 주변을 더듬어 보고 한 걸음씩 옮기는 것 처럼.
  • 딥러닝에서 가장 중요한 개념.

왜 쓰는지 정확히 이해하지 못하더라도, 사용법만 알면 사용할 수 있습니다.
우리가 스마트폰 원리를 모두 알고 사용하지 않더라도 너무 잘 이용하듯이.

profile
rootgo 매일, 꾸준히 성장하는 사람🌱

0개의 댓글