Statistical Machine Learning
1.Convexity
Convex Sets. Convex set > C is Convex set if $x, x' \in C$ then $(1-\theta)x + \theta x' \in C$ for any $0 \le \theta \le 1$ Operations on Convex Sets. Intersection : > If A and B are convex ...
2.Basic Markov Chain Theory
MCMC(markov chain monte carlo)를 이해하기 위해, 간단한 markov chain theory에 대하여 알 필요가 있다. 바로 본론으로 들어가도록 하자. Markov Chain The process $\{X_n : n\in T\}$ is a M
3.Simulations
Motivation $$\int_a^b h(x)dx $$ 과 같은 적분을 계산하는 것은, $h(x)$가 복잡한 함수이거나 $x$가 다차원 벡터인 경우 쉬운 일이 아니다. 이런 경우, 적분값을 근사적으로 구하기 위해, 여러가지 Simulation 방법론들이 개발되었다.
4.Elements of Numerical Optimization
많은 Statistical machine learning 방법론에서, 모델이 설정되고 평가기준이 선택되고 나면, 나머지 문제는 optimization로 생각할 수 있다. 이 포스트에선 optimization의 elements들에 대하여 살펴보자. 9.1. Uncon
5.Gaussian Mixture Model(GMM)
\*본 포스팅은 서울대학교 데이터사이언스 대학원 이상학 교수님의 "데이터사이언스를 위한 머신러닝과 딥러닝2" 강의록을 기반으로 함.Clustering에는 많은 방법들이 있다.Clustering 방법들에 대한 평가를 위해서, 어떠한 측도가 필요할 것이다.이를 위한 하나의
6.Hidden Markov Models(HMM)
*본 포스팅은 서울대학교 데이터사이언스 대학원 이상학 교수님의 "데이터사이언스를 위한 머신러닝과 딥러닝2" 강의록을 기반으로 함. 기존의 markov chain의 가정에 의하면, 모든 상태는 그 직전 상태에만 의존하므로, 이전 상태에 현 상태에 대한 모든 정보가 포함
7.Inference in Bayesian Network
베이지안 네트워크에서 값을 모르는 노드를 추론하려면 주로 Bayesian Posterior을 통하여 접근하는 방법을 생각할 수 있다.Markov property를 이용하여 이러한 posterior를 구하는 식을 쓰는 건 매우 간단하다.우리가 사전에 가지고 있는 정보는