[딥러닝] 퍼셉트론(perceptron) 기본

퍼셉트론

• 가장 단순한 형태의 신경망입니다.
• single layer
• 입력 features, 가중치(weight), Activation, 출력값 으로 구성됩니다!
• 사용 메커니즘 : 가중치합이 임계점 값을 넘어가면 학습이 되는 방식!

시그모이드

• 시그모이드 함수는 0과 1사이의 값만을 갖기 때문에 gradient explosion 을 방지하는 데 좋습니다!
• gradient explosion : 기울기가 점점

시그모이드 함수식

• x값이 커질수록 1에 수렴하고 x값이 작아질수록 0에 수렴하는 성질을 가지고 있습니다.
• 로지스트 회귀에 쓰임

weighted Sum이란?

• Weighted Sum : 입력 feature들의 각각의 값과 이 feature의 중요도에 따라서 가중치 값을 정하고, 각각 곱한 후 다 더한 값

• 출력 값 - weighted sum을 활성화 함수에 적용

퍼셉트론의 학습

예측값과 실제 값의 차이에 따라서 가중치 값을 재조정

1. 최초 가중치 값 설정

2. 예측값 계산

3. 예측값과 실제 값의 차이 계산

4. 차이를 줄일 수 있게 가중치 값을 변경(경사하강법을 적용하여 가중치 변경)