ACF (Autocorrelation Function)

Autocorrelation function은 시계열 데이터에서 시차 (lag, 아래 예시에서는 $k$) 만큼 떨어진 두 값 사이의 상관관계를 수치로 나타낸 것이다. 더 정확하게는, 자기공분산을 분산으로 표준화한 값이다.

자기공분산

시계열 데이터 $Y_t$의 평균을 $\bar{Y}$라 할 때, 시차 $k$의 자기공분산은 다음과 같다.

이 때 사실은 $N-k$로 나누는 것이 불편추정량이다. 통계적 추론(표본 공분산 추정)에서는 $N-k$로 나눈다. $N$으로 나누는데,계산이 더 간단하기도 하고, $k$가 클 때 표본이 줄어들어 분산이 커지는 문제가 해결되어 ACF 그래프가 덜 요동치게 된다. 그래서 ACF 플롯을 그릴 때에는 $N$으로 나눔.

$k=0$을 대입하면 $\gamma(0) = \frac{1}{N} \sum_{t=1}^{N} (Y_t - \bar Y)^2$이라, 분산과 동일해진다.

자기상관 함수

ACF는 자기공분산을 분산으로 표준화한 값으로, 항상 -1에서 +1 사이이다.

$\rho(k)>0$ 이면 양(+)의 상관, $\rho(k)<0$ 이면 음(–)의 상관

예시 (Lag = 1)

이 과정을 여러 시차 $k=1,2,\dots$에 대해 반복하면 ACF 플롯을 그릴 수 있다.

Partial ACF

PACF at lag $k$은 시계열 $Y_t$와 $Y_{t-k}$ 사이의 순수한 상관관계로, 그 사이의 모든 중간 시차(lags $1,2,\dots,k-1$)가 설명하는 부분을 제거한 후 남는 상관관계다.

PACF를 $\alpha_k$ 또는 $\phi_{kk}$로 표기하며, 회귀 잔차 간의 상관관계로 정의할 수 있다:

여기서

• $\hat Y_t^{(k-1)}$는 시차 $1$부터 $k-1$까지를 설명 변수로 한 선형 회귀모형의 예측값
• $\hat Y_{t-k}^{(k-1)}$도 동일 회귀모형을 적용한 예측값

정상 시계열에서 ACF가 빠르게 사라지는 이유

약한 정상성(Weak Stationarity) 조건

• 평균이 일정
• 분산이 일정
• 자기공분산이 시차 $k$에만 의존하며 $k\to\infty$일 때 $0$으로 수렴

가장 간단한 정상 시계열 AR(1) 모형은

이때 자기상관함수(ACF)는 다음과 같이 닫힌 형태(closed‑form)로 구해짐:

• 지수적 감쇠(exponential decay): $|\phi|<1$ 이므로 $k$가 증가할수록 $\phi^k$는 빠르게 0으로 수렴함.

AR(p) 모형 일반화

일반적인 AR($p$) 모형

에서도 정상성 조건인 모든 근(root)이 단위원(absolute value 1) 바깥에 위치하면(즉, $|\phi_i|<1$을 포함한 복소수 조건) ACF는 역시 지수적(또는 조화적)으로 감쇠함.

Non-Stationary에서 ACF가 천천히 감소하는 이유

가장 단순한 형태의 non-stationary 모델

이를 풀어 쓰면

lag $k$에 대해

ACF

$t\gg k$일 때 $\rho(k)\approx1$이므로 ACF가 매우 천천히 감소한다. 이는 과거 충격이 누적(accumulation)되어 오래 남기 때문이다.