퍼셉트론

---

퍼셉트론이란??

• 인공신경망 구성요소 중 하나로 딥러닝 모델의 가장 작은 기본단위
• 뇌를 구성하는 신경세포인 뉴런의 동작과 유사하게 동작
• 사람처럼 생각하기 위해 activation 함수를 뒤에 붙혀서 사용
• 역치 이상의 자극만 다음 뉴런에게 전달 > 역치의 역할 = 활성화 함수
  
  모든 자극을 그냥 전달할 수 없으니, 일정 기준에 따라 전달한다는 뜻이다.

또한, 퍼셉트론 하나는 선형 함수 하나를 의미한다.

하지만 선형함수 하나만 존재할때 퍼셉트론이라 말할 수 없다.

선형 모델에 '활성화 함수'를 포함시켜야 퍼셉트론이라 할 수 있다.

활성화함수

---

활성화 함수는 앞서 설명했듯 딥 러닝에서 꼭 필요한 존재이다.

앞서 말한 일정기준인 '역치'를 넘어서서 값을 전달한다는 뜻은 퍼셉트론이 '계단함수'를 사용한다는 뜻이다.

여기서 걸리는 것이 있다.
우리는 경사하강법을 사용하여 최적의 답을 구해야한다.
즉, 미분을 해야한다는 뜻이다.

하지만 계단함수는 미분이 불가능하여 경사하강법을 사용할 수 없다.

그래서 우리는 선형함수에 역치를 극복하기 위해 활성화 함수를 사용하는 것이다.