Hyperbolic Tangent vs Logistic(Sigmoid)

olxtar·2022년 3월 8일
0

참고 : tanh 미분 정리

Hyperbolic Tangent functionLogistic(Sigmoid) function의 가장 큰 차이점 은 yy의 범위이다.
S자형 곡선, 시그모이드 곡선을 갖는 수학함수를 통틀어서 시그모이드함수라고 한다.
DL에서 흔히 말하는 sigmoid function은 logistic function이긴하나(?) 그냥 sigmoid라고 하자.

  • Hyperbolic Tangent(tanh)의 output range : -1 ~ 1
  • Sigmoid(σ\sigma)의 output range : 0 ~ 1

Hyperbolic Tangent function

tanh(x)=1ex1+extanh(x)=\frac{1-e^{-x}}{1+e^{-x}}

Sigmoid function

σ(x)=11+ex\sigma(x)=\frac{1}{1+e^{-x}}



작성중...

profile
예술과 기술

0개의 댓글