Air on the C String
로그인
Air on the C String
로그인
[인공지능] 손실함수와 활성화 함수
Eugene CHOI
·
2021년 6월 11일
팔로우
0
손실함수
인공지능
활성화함수
0
Machine Learning
목록 보기
12/13
1. Loss function
1.1. MSE
M
S
E
=
1
2
N
∑
i
=
1
N
(
y
i
−
t
i
)
2
MSE=\frac1{2N}\displaystyle\sum_{i=1}^N(y_i-t_i)^2
M
S
E
=
2
N
1
i
=
1
∑
N
(
y
i
−
t
i
)
2
1.2. Logistic Regression
L
=
−
∑
i
=
1
L
y
i
log
r
(
x
i
)
+
(
1
−
y
i
)
log
(
1
−
r
(
x
i
)
)
L = -\displaystyle\sum_{i=1}^L y_i \log r(x_i)+(1-y_i)\log(1-r(x_i))
L
=
−
i
=
1
∑
L
y
i
lo
g
r
(
x
i
)
+
(
1
−
y
i
)
lo
g
(
1
−
r
(
x
i
)
)
2. Activation Function
2.1. Sigmoid
h
(
x
)
=
1
1
+
e
−
x
h(x) = \frac{1}{1+e^{-x}}
h
(
x
)
=
1
+
e
−
x
1
주로 이진분류에 사용합니다.
2.2. Soft-max
h
(
x
1
,
x
2
,
…
,
x
n
)
=
1
∑
i
=
1
n
e
x
i
(
e
x
1
,
e
x
2
,
…
,
e
x
n
)
h(x_1, x_2, \dots,x_n)=\frac 1{\displaystyle\sum_{i=1}^n e^{x_i}}(e^{x_1}, e^{x_2},\dots,e^{x_n})
h
(
x
1
,
x
2
,
…
,
x
n
)
=
i
=
1
∑
n
e
x
i
1
(
e
x
1
,
e
x
2
,
…
,
e
x
n
)
주로 다중분류에 사용합니다.
2.3. Hyperbolic Tangent
h
(
x
)
=
tanh
(
x
)
=
e
x
−
e
−
x
e
x
+
e
−
x
h(x)=\tanh(x)=\frac{e^x-e^{-x}}{e^x+e^{-x}}
h
(
x
)
=
tanh
(
x
)
=
e
x
+
e
−
x
e
x
−
e
−
x
Eugene CHOI
Hi, my name is Eugene CHOI the Automotive MCU FW developer.
팔로우
이전 포스트
[지도학습] CNN
다음 포스트
[강화학습] 알고리즘 분류
0개의 댓글
댓글 작성
