[AI_basic] Preceptron

Perceptron

• 뉴런의 동작 과정을 모델링한 알고리즘, 이진 분류 모델의 지도학습 기반 알고리즘, Decision boundary를 잘 설정하는 방향으로 학습

• activation function(SUM(입력값 * 가중치) + bias)를 출력

• 단층 퍼셉트론은 XOR 게이트를 구현하지 못함, 다층일 경우에만 가능, 다층 퍼셉트론을 심층 신경망 (DNN) 이라 부름

• 다층 퍼셉트론은 NAND와 OR를 조합하여 XOR을 구현 가능

Training

• $y = \displaystyle\sum_i^n(x_i \times w_i) + b$

• 편향 학습: 편향 조절 시 Decision boundary의 절편을 조절하는 것

• 가중치 학습: 가중치 조절 시 Decision boundary의 기울기를 조절하는 것

• $w_{t+1}=w_t+\eta(y-\tilde{y})x$