참고 : tanh 미분 정리
Hyperbolic Tangent function과 Logistic(Sigmoid) function의 가장 큰 차이점 은 y의 범위이다.
S자형 곡선, 시그모이드 곡선을 갖는 수학함수를 통틀어서 시그모이드함수라고 한다.
DL에서 흔히 말하는 sigmoid function은 logistic function이긴하나(?) 그냥 sigmoid라고 하자.
- Hyperbolic Tangent(tanh)의 output range : -1 ~ 1
- Sigmoid(σ)의 output range : 0 ~ 1
Hyperbolic Tangent function
tanh(x)=1+e−x1−e−x
Sigmoid function
σ(x)=1+e−x1
작성중...