최성준 교수님 무한 신뢰 무한 사랑 무한 감사 무한 영광

DL History Overview와 MLP, 딥러닝 과정 전반에 대한 이해가 이제야 조금 되기 시작함

여전히 읭,,,엥뮁 스러운 부분들은 있지만 오늘은 그 전반적 이해에 대한 글을 써보겠음

AI, ML, DL

AI

인간의 지능을 모방하는 것.

ML (Machine Learning)

AI를 만드는 과정.
우리가 흔히 아는, 데이터들을 이용해서 학습시키는 방법

DL (Deep Learning)

ML을 구현하기 위한 방법.
Neural Network를 이용

딥러닝의 핵심 구성요소는,

데이터

어떤 데이터를 가지고 학습 할 것인가?

모델

데이터를 어떻게 학습 할 것인가?
AlexNet, GoogleNet, ResNet 등 모델의 구조나 히든 레이어 개수, 크기 등이 다양한 모델들이 있다.
해결하고자 하는 문제나 데이터셋의 특징에 따라 적절히 사용한다.
딥러닝 머리속에 인스톨하기

손실함수 (Loss Function)

데이터를 학습하는 과정에서 나타나는 오류(손실, cost, error 등 여러가지로 표현)를 어떤 함수로 계산할 것인가?

회귀 문제 (Regression)

• MSE (Mean Square Estimation)
  정답 y와 기대값 y(내가 만든 모델이 추정한 값)의 차이를 제곱한 값을 Loss로 사용한다.
• MAE (Mean Absolute Estimation
  MSE로 학습할 때, y-y^ 값이 커지면 제곱값이 너무 커져서 간혹 학습 중 이상한 방향으로 (? 간지나게 표현할 방법이 뭐가 있을까,,?) 흘러갈 위험이 있다.
  따라서 제곱하지 않은, |y-y^|값을 loss로 이용한다.

분류 문제 (Classification)

• CE (Cross Entropy)
  왜 CE를 사용할까?
  이건.. 조금 더 공부해보기

확률 문제 (Probabilistic)

• MLE (Maximum Likelyhood Estimation)
  최대우도법.

  알고리즘

  손실을 최소화 하기 위해 파라미터(가중치)를 어떻게 조정할 것인가?
  나중에 더 자세히 다룬다고 하심