Derivative(미분) 정리

Derivative(미분)

아주 작은 값을 대입하여 순간변화율(접점의 기울기)를 구하는 것

*머신러닝의 가중치(Weight)와 바이어스(Bias)를 계산하고 업데이트 할때 필요

→ 극한(limit)에서 △x는 0에 근접한다. 즉 입력 값 x의 변화량은 거의 없다는 의미이고, 변화가 있더라도 무시할 수 있을 만큼 작다는 의미 따라서 아래 두가지로 해석 할 수 있다.

1. 입력 변수x가(아주 미세하게)변할 때, 함수 f(x)의 변화량을 나타내는 식
2. 함수 f(x)가 입력 값x의 미세한 변화에 얼마나 민감하게 반응하는지 나타내는 식

✔ 머신러닝에서는 이러한 미분 개념으로 가중치(weight)와 바이어스(bias)를 계산하여 최적의 값을 찾는 것이 최종 목표

기본함수 f(x)	도함수 f'(x)
f(x)=상수	f(x)=0
f(x)=a$x^n$	f'(x) = a$nx^{n-1}$
f(x) =$e^x$	f'(x)=$e^x$
f(x)=lnx	f'(x)=$\frac{1}{x}$

ex)
f(x) = 3$x^2 +e^x + 7 => f'(x) = 6x+e^x$

f(x) = lnx +$\frac{1}{x}$ => f'(x)=$\frac{1}{x}$ - $\frac{1}{x^2}$