Langevin Dynamics

김민서·2024년 7월 7일

Score Matching 과정 이후 샘플링에 쓰이는 알고리즘
- prior distribution $x_{0}\sim \pi (x)$ 에서 시작해서 stochastic하게 샘플링 $x_{i+1} \leftarrow x_{i}\ +\ \epsilon \nabla_{x}\ log\ p(x)\ +\ \sqrt{2\epsilon}\ z_{i}, \ \ \ i=0,1,…,K$
$\epsilon$ : step size
$z_{i}$ : Gaussian noise
$\epsilon \rightarrow 0$ 이고 $K \rightarrow \infty$ 일 때 $x_K$ 의 distribution은 $p_{data}$ 와 같다
- Proof (TODO)
- 그러나 $\epsilon$ 이 충분히 작고 $K$ (step 수)가 충분히 크면 오차는 무시할 수 있다
langevin dynamics 수식에서 우리가 알아야 할 건 score function밖에 없으므로, 그 부분을 score matching 된 network $s_{\theta}(x)$ 로 바꾸면 $p_{data}$ 에서 샘플링하는 것과 같은 효과를 낼 수 있다