오래전부터 학교 수업 외에 외부 스터디로 공부를 해보고 싶었는데 드디어 미래연구소 15기 스터디에 참여하여 첫 수업을 듣게 되었다. 이 시간들을 통해서 새로운 것을 배우고, 많은 것을 얻었으면 좋겠다.
- 대부분의 이미지는 미래연구소 강의와 필기노트에서 제공되었습니다.
첫 수업에는 딥러닝과 머신러닝, Neural Network가 무엇인지에 대한 수업을 들었다.
Introduction to Deep Learning
딥러닝을 알아가기 전 먼저 머신러닝에 대해 배웠다.
Mechine Learning은 하나로 정의 하기 어렵다.
머신러닝은 소프트웨어이며, 프로그램이고, 데이터를 학습해서 규칙을 찾아낸다.
종류
- supervised Learning : learning with labeled
- unsupervised learning : un-labeled data
ex) Google news grouping, Word clustering, deep-fake(gan) - reinforce learning : 현재의 상태에서 어떤 행동을 취하는 것이 최적인지를 보상에 의해 학습
ex) 게임과 같은 일부 분야에만 국한
1. Supervised Larning
x와 y가 한 쌍이 된 data를 받는다. (training data라고 한다.)
이를 통해 rule을 학습하며 이 rule을 통해 unseen x에 대해 y를 예측한다.
종류 - 분류 기준 : y(label)의 종류(class)
1. Regression - y의 종류가 continuous
ex) predicting final exam score, predicting tempture
2. Binary Classification - y의 종류가 2가지
ex) predicting cat or dog image, predicting pass or non-pass
3. Multi-class Classification - y의 종류가 discrete
ex) predicting letter grade, predicting number
2. 용어
- x : input, feature
- y : label (y의 종류 각각은 class)
- data : sample, (x,y) 한 쌍, labeled data, sample data
3. Deep Learning
- Blackbox 모델 : 내부에서 어떤 일이 일어나는 지 알 수 없다.
- feature engineering이 필요 없다. (필요 없는 feature에 가중치를 감소)
- 발전의 원동력 : 신경만의 크기 = hidden layer ☝ = parameter ☝, amount of data ☝, computatioin ☝, 좋은 algorithm ☝
NN(Neural Network)
- NN은 ML(Machine Learning)의 예시 중 하나이다.
- 신경망의 입력값 X --(NN)--> Y : NN은 함수 ex) ReLU
- NN --(deep)--> DNN
- X = input = feature
- hidden Unit -> black box
- DL : feature engineering ❌
Example
주택 가격의 예측
hidden unit의 부분까지 알 필요가 ❌
Supervised Learning
Data
- DL은 unstructured data에 특화됨
Regression
데이터에 대한 가장 최적의 식은 파란색임을 알 수 있다.
이때 이러한 함수의 형태를 H(x) 라고 나타낼 수 있다.
만약 데이터가 이렇게 변할 경우에, 가장 최적의 식 H(x)을 찾아야 할 것이다. 즉, 최적의 w, b의 값을 찾아야 한다.
이때 사용되는 것이 Gradient Descent (경사 강하)이다.
경사를 따라서 내려 가며 최소의 cost(w,b)를 찾는 것.
Gradient Descent 과정은 다음 시간에 배우기로 한다.
