Exponential Moving Average(EMA)

Exponential Moving Average(EMA)는 주로 시계열 데이터 분석에서 사용되는 기법으로, 최신 데이터에 더 많은 가중치를 부여하여 평균을 계산한다.우리가 아는 평균 계산법은 simple moving average라고 한다. 이는 최근 데이터의 변화를 더 잘 반영하기 위함이다. Batch normalization을 할때, Test과정에서 EMA 방법으로 평균을 구한다. EMA는 과거 모든 데이터 포인트를 동일한 가중치로 평균하는 단순 이동 평균(Simple Moving Average, SMA)과는 달리, 시간이 지남에 따라 가중치가 기하급수적으로 감소한다.

EMA의 정의와 계산 방법

EMA는 다음과 같은 방식으로 계산된다

1. 초기값 설정:
   EMA의 초기값(보통 첫 번째 데이터 포인트)은 주로 단순 이동 평균(SMA)로 설정된다. 예를 들어, 첫 10개의 데이터 포인트의 평균을 초기 EMA로 설정할 수 있다.

2. 지수 가중치 계산:

   $\alpha = \frac{2}{N + 1}$

   여기서 $\alpha$는 스무딩 계수(smoothing factor)이며, $N$은 기간(period)을 나타낸다.

3. EMA 업데이트 공식:

   $EMA_t = \alpha \cdot X_t + (1 - \alpha) \cdot EMA_{t-1}$

   여기서 $EMA_t$는 현재 시점 $t$의 EMA, $X_t$는 현재 시점 $t$의 실제 값, $EMA_{t-1}$ 은 이전 시점 $t-1$의 EMA이다.

예시

데이터 포인트 $X = [3, 5, 7, 9, 11]$가 있고, 기간 $N = 3$으로 설정한 경우:

1. 스무딩 계수 계산:

   $\alpha = \frac{2}{3 + 1} = 0.5$

2. 초기 EMA (첫 번째 데이터 포인트를 초기값으로 사용):

   $EMA_1 = 3$

3. EMA 계산:

   $EMA_2 = 0.5 \cdot 5 + (1 - 0.5) \cdot 3 = 4$
   $EMA_3 = 0.5 \cdot 7 + (1 - 0.5) \cdot 4 = 5.5$
   $EMA_4 = 0.5 \cdot 9 + (1 - 0.5) \cdot 5.5 = 7.25$
   $EMA_5 = 0.5 \cdot 11 + (1 - 0.5) \cdot 7.25 = 9.125$

Reference

https://ko.wikipedia.org/wiki/%EC%9D%B4%EB%8F%99%ED%8F%89%EA%B7%A0#%EC%A7%80%EC%88%98%EC%9D%B4%EB%8F%99%ED%8F%89%EA%B7%A0

https://wikidocs.net/163553#google_vignette