퍼셉트론은 복잡한 함수도 표현할 수 있지만 가장 큰 단점으로는 사람이 일일이 수동으로 가중치를 설정 하는 작업이 필수라는 것이다.
하지만 신경망은 가중치를 자동으로 설정한다는 것이다.
가장 왼쪽 줄을 입력층, 중간 줄을 은닉층, 가장 오른쪽 줄을 출력층이라고 한다.
입력층이나 출력층과 달리 은닉층은 사람의 눈에 보이지 않는다.
앞에서 올렸던 퍼셉트론과 신경망은 별 차이가 없어보인다.
실제로 뉴런이 연결되는 방식은 앞의 퍼셉트론과 다를게 없다.
그럼 신경망에서는 신호를 어떻게 전달할까?
퍼셉트론을 식으로 나타내면 아래와 같이 나타난다.
출처 : https://url.kr/rj63u9
여기서 b는 편향을 나타내는 매개변수로 뉴런이 얼마나 쉽게 활성화되느냐를 제어한다.
w1,w2는 각 신호의 가중치를 나타내는 매개변수로 각 신호의 영향력을 제어한다.
위처럼 퍼셉트론에 편향 (b) 를 명시하면 아래와 같이 나타낼 수 있다.
위 그림에서는 가중치가 b이고 입력이 1인 뉴런이 추가되었다.
위 그림을 간단하게 식으로 요약하면 아래와 같이 나타낸다.
입력 신호의 총합이 h(x)라는 함수를 거쳐 변환되어, 그 변환된 값이 y의 출력값이 됨을 보여준다. 그리고 h(x) 함수는 입력이 0을 넘으면 1을 돌려주고 그렇지 않으면 0을 돌려준다.