History

그동안 배웠던 챕터를 시간 순으로 짧게 정리를 해보겠다.

1. 1943년
   Warren S. McCulloch 와 Walter Pitts가 첫번째로 인공 신경망에 대한 연구를 했다.

   N개의 입력 : x1 ,x2 ,...,xn 
   가중치 w1 ,w2 ,...,wn 
   출력 y
   임계치 h 
   
   에 대하여 아래와 같은 신경망 식을 만들어냈다. 

   

2. 1949년
   Donald Hebb이 "햅의 학습 규칙"을 만들어냈다.
   

3. 1957년
   Frank Rosenblatt가 최초의 의미 있는 적응적인 아키텍처를 고안해냈다.
   

4. 1969년
   Minsky(symbolic AI 연구)가 XOR 문제를 해결하지 못한다는 Single-layer Perceptron의 한계를 지적했다.

5. 1970년대
   그렇게 Neural Network 는 암흑기를 거쳤고, symbolic AI의 전성기가 찾아왔다.

6. 1974년
   Werbos가 최초로 backpropagation(역전파법)에 대한 아이디어를 제시했다.

7. 1984년
   Hopfield가 Hopfield Networks를 제시했고, 다시 Neural Network가 떠오르기 시작한다.

8. 1986년
   Rumelhart, Hinton, Williams가 바로 "역전파 알고리즘"에 대해 발표한다.

9. 2006년
   Hinton, Bengio, LeCun, Ng, ... 등이 Deep Learning을 만들어낸다.

---

참고하면 좋을 자료

• 딥러닝이란 무엇인가?