[TIL]Day 71

확률이론 : 예측값의 불확실성을 정량화시켜 표현할 수 있는 수학적인 프레임워크를 제공한다.
결정이론 : 확률적 표현을 바탕으로 최적의 예측을 수행할 수 있는 방법론을 제공한다.

다항식 곡선 근사에서 x에 대해서는 선형이 아니지만 가중치 w에 대해서는 선형함수임.

M(==차원)이 커질수록 w(==가중치,계수) 값이 엄청 커지거나 작아짐. 학습을 하면서 계수를 맞추기 위해 나타나는 현상. 그래서 계수에 제한을 주는것이 규제화.

확률 P는 집합 S의 부분집합을 실수값에 대응시키는 함수

• 대문자 $X,Y,...$ : 확률변수
• 소문자 $x,y,...$ : 확률변수가 가질 수 있는 값
• $P[X=x]$
• $P[X<x]$
• $X=x,X<x$는 집합 S의 부분집합을 정의한다.

확률밀도함수는 $F_X(x),f_X(x),p_X(x),p_x(x),p(x)$ 등으로 다양하게 나타낼 수 있다.

확률밀도함수 PDF

odd function 이란
-f(x) = f(-x) 를 만족하는 함수
적분하면 0이 되는 성질을 가지고 있다.