2025.02.09
Chapter 04. Review of Deeplearning
31. 기본개념 - 뉴런의 수학적 표현32. 기본개념 - 회귀와 분류에 대한 개념33. 기본개념 - 다양한 네트워크
기본개념 - 뉴런의 수학적 표현
기본개념 - 회귀와 분류
회귀
- 선형회귀 - 데이터를 가장 잘 표현하는 직선(선형식)
핵심은 w, b를 찾는것이며, 결국 에러(오차)가 가장 적은 w(직선의 기울기)를 찾는 것이다.
- 다중 선형 회귀 - 입력이 하나가 아닌 것
- 신경망의 회귀
출력계층은 선형회귀와 동일하다 (항등함수, , 직선식, 활성화 함수가 없음)
단, 은닉층에선 활성화 함수가 있기때문에, 이야기가 달라지게 된다.
회귀 곡선이 된다.
분류
- 로지스틱 회귀 (분류) : 범주형 데이터 대상
선형회귀(직선하나)와 유사하나 범주형 데이터를 분류하는 직선을 긋는 것에서 차이가 있다.
시그모이드 함수. 분류문제에서 많이 적용 (이진분류)
크로스 엔트로피 함수.
얇은 신경망의 이진 분류
다중 분류
원 핫 인코딩 ( One-Hot Encoding )
행렬에서 하나의 값만 1이고 나머지 0인 경우 모든 값을 표현하기에는 메모리 소모 발생.
따라서 (위치, 값)만 표현하면 간단히 표현 가능
- ex) (11, 1) → 11번째 값이 1
다중 클래스 - SoftMax
원핫 인코딩인 경우 무조건 SoftMax 활성화 함수 사용해야 함.
각 출력값은 0~1 사이값을 가지며, 모든 출력값의 합이 반드시 1이 된다.
기본개념 - 다양한 네트워크
LeNET
CNN 계열이 이미지넷 관련해서는 2012년 이후부터는 계속 1위를 차지했다.
위는 2012년에 최초로 우승을 했던 CNN계열의 AlexNet 이다.
이 외에도 구글넷, ResNet 등이 있다.
(hellow. world)