cannot separate XOR

1개의 logistic regression unit으로는 XOR 문제를 해결할 수 없으나, 3개의 logistic regression unit을 합치면 가능.
하지만, 이 신경망에 있는 weight과 bias을 학습할 방법이 없음.

NN(Neural Network) for XOR

: NN = 여러 레이어의 각각 W, b를 어떻게 학습하는가에 대한 것

XOR using NN

-> XOR의 속성으로는 linear하게 선을 찾을 수 없음

-> 맨처음 output을 다른 모델의 input으로 넣어 계산

원하는 답 찾기

1) x1=0, x2=0 일 때, Want XOR = 0 -> 맞음

2) x1=0, x2=1 일 때, Want XOR = 1 -> 맞음

3) x1=1, x2=0 일 때, Want XOR = 1 -> 맞음

4) x1=1, x2=1 일 때, Want XOR = 0 -> 맞음

---

Forward propagation

Neural network
= input을 각각 다른 W, b값에 적용시켜 나온 결과를 다른 W, b 값을 가지는 모델에 input으로 넣어 결과를 얻음.

---

NN 구성

---

미분

: x가 아주 작은 값으로 갈 때의 순간 변화율(기울기)
-> x가 변할때 y는 얼마나 변하는지