퍼셉트론과 시그모이드

단층 퍼셉트론

입력층과 출력층으로만 구성되어 있으며, 중간에 은닉층이 없다
단층 퍼셉트론은 주어진 입력을 선형적으로 분류할 수 있다
예를 들면 AND, OR 게이트와 같은 선형적으로 분리 가능한 문제만 해결할 수 있다

그래서 XOR 같은 문제를 해결할 수 없다 그래서
좀 더 복잡한 문제를 다루기 위해서 다층 퍼셉트론이 나오게 되었다

다층 퍼셉트론

단층 퍼셉트론은 선형 분리 문제를 해결할 수 있지만,
다층 퍼셉트론은 비선형 문제까지 해결 가능하다는 점에서 큰 차이가 있다

다층 퍼셉트론은 단층 퍼셉트론과 다르게 은닉칭이라는 개념이 추가된다

• 은닉층을 추가하여 새로운 특징 공간으로 변환
• 시그모이드 활성함수 도입
• 오류 역전파 알고리즘 사용

시그모이드 함수

비선형 활성화 함수 중 하나로, 입력값을 0과 1사이의 값으로 변환하는 역할을 한다
인공 신경망에서 뉴런의 활성화 여부를 결정하거나,
확률처럼 해석될 수 있는 출력을 만들 때 주로 사용된다

비선형 변환을 반복적으로 적용함으로써 복잡한 데이터 패턴을 더 잘 학습할 수 있기 때문