DL.1

Deep Learning?

$\theta^*_\tau \gets A_\phi(L_\tau,D^{train}_\tau,f_\theta)$
$m(\theta^*_\tau) \gets P_\tau(D^{valid}_\tau,f_{\theta^*_\tau})$

Task: $\tau$
Data: $D^{train}_\tau,D^{valid}_\tau$

Input data가 가지고 있는 벡터 스페이스에서 Input data의 distribution을 non-linear transformation을 통해 공간을 원하는 테스크에 맞게 변환을 시킨 후 최종적으로 테스크에 알맞는 feature 벡터 스페이스를 찾고 distribution을 새롭게 만들어내는 과정.

learning의 요소

• Task
• Task Experience
• Performance Measure

-- Task --
목표, 모델의 기대수행능력

-- Task Experience --
$\rightarrow$ Data

-- Performance Measure --
결과를 측정할 지표

Model + Learning $\to$ Learning Algorithm
Neural Network + Gradient Descent Optimization $\to$ Deep Learning Algorithm