: 선형회귀와 비선형 함수로 이루어진 하나의 층(Layer)를 여러번 반복해서 깊게 쌓아서 복잡한 문제를 해결하기위한 머신러닝의 한 분야
선형 회귀로 풀 수 있었던 AND, OR 논리회로와 달리 XOR 회로는 선형회귀로 풀 수 없었고 MLP 개념이 등장
Perceptron : 노드와 가중치 등으로 나타낸 인공신경망 단위
1969년 Marbin Minsky : [ Perceptrons ] 에서 XOR 게이트를 한개의 perceptron으로 풀 수 없고 MLP를 사용해야하는데 학습양이 많이 불가능하다고 주장
1974년 Paul Werbos : 역전파(backpropagation) 제시
1986년 Hinton : 독자적으로 역전파 발표
이후 역전파 알고리즘으로 학습한 MLP 모델로 XOR 문제 해결
출처: https://www.kdnuggets.com/2016/10/deep-learning-key-terms-explained.html
선형회귀의 결과값을 비선형으로 만들어주기 위한 비선형 함수
- 간단하면서 성능이 좋은 ReLu 함수를 많이 사용함
출처: https://vitalflux.com/overfitting-underfitting-concepts-interview-questions/
출처: https://www.mygreatlearning.com/blog/understanding-data-augmentation/
출처: https://towardsdatascience.com/neural-networks-ensemble-33f33bea7df3