Neural Net

• 신경망에서 아이디어를 얻어서 시작됨

뉴런

• 뉴런은 입력, 가중치, 활성화함수, 출력으로 구성
• 뉴런에서 학습할 때 변하는 것은 가중치
  - 처음에는 초기화를 통해 랜덤 가중치를 넣고, 학습과정에서 일정한 값으로 수렴됨
  

레이어와 망

• 뉴런이 모여서 layer를 구성하고,net이 됨

딥러닝

신경망이 깊어(많아)지면 깊은 신경망 Deep Learning이 됨

텐서플로우를 이용한 모델 생성

model = tf.keras.Sequential([
    tf.keras.layers.Dense(units=1, input_shape=(2, ))
])

model.compile(optimizer='rmsprop', loss='mse')

loss

• 학습을 위해서는 loss(cost) 함수를 정해줘야 함
• 정답과의 차이가 얼마나 나는지 측정하는 함수
• 위의 코드에서는 mse:mean square error(오차 제곱의 평균)을 사용

optimizer

• loss를 어떻게 줄일 것인지를 결정하는 방법
• loss 함수를 최소화하는 가중치를 찾아가는 과정에 대한 알고리즘

activation

비선형이 되도록 뉴런 끝에 붙여줌

실습 코드

제로베이스 강의를 수강하며 작성한 글입니다.