Artificial Neural Network


Neural Networks


1. 퍼셉트론

Q . 퍼셉트론( Perceptron )이란?
A . 신경망 학습의 방법으로 기계를 학습하는 방법이다. 신경망학습이란, 인풋에 가중치를 부여하여 연산한 결과를 출력하는 방법인데, 결과의 학습이 좋았다면 가중치를 늘리고, 결과의 학습이 안좋았다면 가중치를 낮춰 결과의 정확도를 높인다.

Q . XOR 문제는 무엇이며 어떤 문제가 있을까요?
A . XOR 문제는 이론적으로 당연한 상황에서 실제로는 그렇지 못한 경우가 있다는 수학적 증명이다.

Q . 퍼센트론의 한계를 어떤 형태로 개선하게 되었을까요?
A . 다층 신경망과 역전파( backpropagation )으로 개선하였다. layer를 늘려 학습의 경우를 증가시켰다. 역전파를 통하여 가중치의 값을 수정하였다.

step function - 0또는 1
-단점: 임계값에서 미분x, 나머지=0

sigmoid function - 미분 과정이 필요하다.

ReLU function - 시그모이드를 중복해서 사용하면 기울기 소실

  • 양의 값이 입력되면 그대로 출력, 음의 값은 0이 출력

Softmax fuction - 다중 분류 문제에 적용 가능하도록 시그모이드함수를 일반화한 활성함수이다.

  • 모든 클래스의 값의 합이 1이 되는 확률값으로 변환

2. 논리게이트

AND
NAND
OR - 하나만 만족하면 1 출력
XOR - 입력 신호 다를 경우 1 출력

XOR에서 선형 경계로 두 클래스를 제대로 분류할 수 있을까요?
XOR Classification으로 해결

3. 인공신경망

ANN - 인공 신경망, 실제 신경계를 모사하여 만들어진 계산 모델 ( Neural-Net )

XOR문제 -

입력층

은닉층

출력층

  • 이진분류
  • 다중분류
  • 회귀

QnA

렐루는 주로 은닉층에 사용

이미지는 정규화 - 255로 나누는 이유는 이미지의 픽셀값이 255다.


QnA




👉 과정 한눈에 보기

profile
I believe I can fly

0개의 댓글