뉴런이란?
인간의 뇌는 치밀하게 연결된 뉴런 약 1,000억개로 이루어져있다. 신경계를 구성하는 세포이며, 뉴런은 나트륨 통로, 칼륨 통로등의 이온 통로를 발현하여 다른 세포와는 달리 전기적인 방법으로 신호를 전달할 수 있다. 또한 인접한 다른 신경세포와는 시냅스라는 구조를 통해 (화학적)신호를 주고 받음으로써 다양한 정보를 받아들이고, 저장하는 기능을 한다.
퍼셉트론
뉴런과 비슷한 메커니즘을 사용해 인공적으로 생각하는 무언가를 만들 수 있지 않을까? 라는 생각에서 출발한 것이 인공 신경망(Artificial Neural Network)이다.
처음에는, 켜고 끄는 기능이 있는 신경을 그물망 형태로 연결하면 사람의 뇌처럼 동작할 수 있다 라는 가능성을 시작으로 1957년 미국에서 이 개념을 실제 장치로 만들어 선보이는데, 이것이 바로 퍼셉트론이다.
3년 후 여기서 경사하강법을 도입해, 아달라인이 개발된다.
참고로 모든 머신러닝에는 퍼셉트론이 사용된다고 한다.
뉴런과 퍼셉트론의 차이
가장 간단한 차이점이라고 한다면, 뉴런은 인간 몸에서 자극을 전달하는 생물학적, 화학적인 개념이지만, 퍼셉트론은 이 과정을 수학적으로 모델링한 개념이다.
또한 뉴런은 연속적인 신호를 처리하지만, 퍼셉트론은 디지털 신호를 처리한다. 뉴런은 화학적, 전기적 신호를 처리하고 전달하는 반면, 퍼셉트론은 입력값과 가중치를 곱하고 더한 후 활성화 함수를 거쳐 출력값을 계산한다.
따라서, 뉴런과 퍼셉트론은 모델링의 목적과 방법에서 차이가 있으며, 뉴런은 생물학적 기반을 가지고 있고, 퍼셉트론은 수학적 모델링을 기반으로 만들어졌다.
퍼셉트론의 특징
퍼셉트론은 학습이 가능한 초창기 신경망 모델이다.
선형 분리 가능한 문제만 해결할 수 있으며, 입력값을 하나의 초평면으로 분리할 수 있는 문제에 대해서만 퍼셉트론이 작동한다. 또한, 퍼셉트론은 학습 규칙으로 Widrow-Hoff 경사 하강법을 사용하며, XOR문제 같은 비선형 적인 문제를 해결할 수 없다.
단층 퍼셉트론
층이 입력층과 출력층이 끝인 경우 단층 퍼셉트론이라고 직선으로 나뉘어지는 두 영역을 만들기 때문에 선형분리만 가능하다는 단점이 있다. 이것 때문에 잠시 AI계에 암흑기가 찾아왔다. 하지만 이를 극복하기 위해 다층 퍼셉트론이 등장했다.
다층 퍼셉트론(MLP)
(출처: 구글 검색)
다음 그림이 다층 퍼셉트론이다. 다층 퍼셉트론(Multi-Layer Perceptron)은 2차원 평면에서만 해결하려던 고정관념을 깨게 되면서 생겼고, 선형분리만 가능하다는 문제를 해결했다.
단층퍼셉트론과 차이라고 하면, 은닉층이 생겼다.
다음과 같이 은닉층이 추가되면서 다층 퍼셉트론(MLP)로 XOR문제를 해결할 수 있게 되었다.
다층 퍼셉트론은 위에서 보는바와 같이 입력층, 은닉층, 출력층으로 구분되어 있으며, 은닉층은 1개일수도 있고 여러개가 될 수도 있다.
다층 퍼셉트론은 단층 퍼셉트론의 한계를 극복하기 위해 등장한 층이 3개 이상인 퍼셉트론이라는 것이 중요하다.
글을 마치며
퍼셉트론에 대해서 알아봤는데 조금 어려운 개념이었던 것 같다. 그래도 이렇게 정리하다보니 어찌저찌 이해할 수 있었다. 단층 퍼셉트론, 다층 퍼셉트론에 대해서 간단하게 알아보았는데 글이 조금 혼잡하지만 이 글을 읽을 누군가에게 도움이 되었으면 좋겠다.
