[선형대수] Lecture 22: Diagonalization and powers of A

이재호·2025년 3월 16일

선형대수

목록 보기
21/31

https://ocw.mit.edu/courses/18-06-linear-algebra-spring-2010/video_galleries/video-lectures/

이번 강의에서는 다음 내용을 다룬다.

  • "Diagonalization a matrix S1AS=ΛS^{-1}AS=\Lambda"
  • "Powers of AA"
  • "equation uk+1=Auku_{k+1}=Au_k"

우선 지난 강의에서 eigenvalues and eigenvectors를 배웠다.

  • Ax=λxAx=\lambda x
  • AλI:singularA-\lambda I : singular (det(AλI)=0\det(A-\lambda I)=0)

먼저, 행렬 AAnn개의 independent한 egienvectors를 SS라는 행렬의 칼럼으로 놔보자.

S=[...x1x2...xn...]S= \begin{bmatrix} | & | & ... & | \\ x_1 & x_2 & ... & x_n \\ | & | & ... & | \\ \end{bmatrix}

그리고 다음과 같이 ASAS를 구해보자.

AS=A[...x1x2...xn...]=[...λ1x1λ2x2...λnxn...]AS = A \begin{bmatrix} | & | & ... & | \\ x_1 & x_2 & ... & x_n \\ | & | & ... & | \\ \end{bmatrix} = \begin{bmatrix} | & | & ... & | \\ \lambda_1x_1 & \lambda_2x_2 & ... & \lambda_nx_n \\ | & | & ... & | \\ \end{bmatrix}
=[...x1x2...xn...][λ10...00λ2..........0....λn]diagonal eigenvalues matrix=SΛ= \begin{bmatrix} | & | & ... & | \\ x_1 & x_2 & ... & x_n \\ | & | & ... & | \\ \end{bmatrix} \underbrace{ \begin{bmatrix} \lambda_1 & 0 & ... & 0 \\ 0 & \lambda_2 & ... & . \\ . & . & ... & . \\ 0 & . & ... & \lambda_n \\ \end{bmatrix}}_{\text{diagonal eigenvalues matrix}} = S\Lambda

위 과정에서 AS=SΛAS=S\Lambda 라는 것을 알았다.
그러면 위로부터 다음과 같은 수식도 알 수 있을 것이다.

S1AS=ΛS^{-1}AS=\Lambda
A=SΛS1A=S\Lambda S^{-1}

이제 위 수식을 이용해서 더 알아보자.

만약 Ax=λxAx=\lambda x인 경우에, AkA^k은 어떻게 나올까? 다음 식을 보자.

Ax=λxAx=\lambda x
A2x=λAx=λ2xA^2x=\lambda Ax=\lambda^2x

이전에 배웠다시피 AA가 변해도 eigenvector에는 변화가 없고 eigenvalue만 변한다.
이어서 다음을 보자.

A=SΛS1A=S\Lambda S^{-1}
A2=SΛS1SΛS1=SΛ2S1A^2=S\Lambda S^{-1}S\Lambda S^{-1}=S\Lambda^2S^{-1}
Ak=SΛkS1A^k=S\Lambda^k S^{-1}

마찬가지로 A=SΛS1A=S\Lambda S^{-1} 수식에서 AA가 변해도 eigenvectors의 행렬은 변화가 없고 빅 람다 Λ\Lambda 값만 변한다.

따라서 위로부터 다음과 같은 추정이 가능하다.

If all λi<1,then Ak0 when k\text{If all $|\lambda_i|<1$,} \\ \text{then $A^k\to 0$ when $k \to \infty$}

왜냐하면 Λ<1\Lambda<1이 되어, Λ0\Lambda^{\infty}\to0가 될 것이기 때문이다. 따라서 Ak=SΛkS1A^k=S\Lambda^k S^{-1}에 의해 Ak0A^k\to 0가 된다.

그리고 다음과 같은 추정도 가능할 것이다.

If all the λs are different, (no repeated λs)A is sure to have n independent eigenvectors. (and be diagonalizable)\text{If all the $\lambda's$ are different, (no repeated $\lambda's$)} \\ \text{$A$ is sure to have $n$ independent eigenvectors. (and be diagonalizable)}

이제 uk+1=Auku_{k+1}=Au_k에 대해서 알아보자. uou_o부터 시작하여 아래 수식을 정리해보자.

uk+1=Auku_{k+1}=Au_k
u1=Au0u_1=Au_0
u2=Au1=AAu0=A2u0u_2=Au_1=AAu_0=A^2u_0
......
uk=Aku0u_k=A^ku_0

uk+1=Auku_{k+1}=Au_k와 같은 규칙이 존재할 때, uk=Aku0u_k=A^ku_0 라는 것을 알 수 있다.
계속 이어서 보자.

u0=c1x1+c2x2+...+cnxn=cS=Sc (S=[...x1x2...xn...])u_0=c_1x_1+c_2x_2+...+c_nx_n=cS=Sc \ (\text{$S=\begin{bmatrix} | & | & ... & | \\ x_1 & x_2 & ... & x_n \\ | & | & ... & | \\ \end{bmatrix}$})
Au0=c1λ1x1+c2λ2x2+...+cnλnxn (Aixi=λixi)Au_0=c_1\lambda_1x_1+c_2\lambda_2x_2+...+c_n\lambda_nx_n \ (A_ix_i=\lambda_ix_i)
A100u0=c1λ1100x1+c2λ2100x2+...+cnλn100xn=Λ100ScA^{100}u_0=c_1\lambda_1^{100}x_1+c_2\lambda_2^{100}x_2+...+c_n\lambda^{100}_nx_n = \Lambda^{100}Sc

또한 uk+1=Auku_{k+1}=Au_k와 같은 규칙이 존재할 때, Aku0=ΛkScA^{k}u_0=\Lambda^kSc 라는 것을 알 수 있다.

한번 예시를 적용해보자.
다음은 Fibonacci 수열의 예시이다.

F0=0F1=1F2=1F3=2F4=3F5=5F6=8F7=13...Fk+2=Fk+1+FkF_0=0 \\ F_1=1 \\ F_2=1 \\ F_3=2 \\ F_4=3 \\ F_5=5 \\ F_6=8 \\ F_7=13 \\ ... \\ F_{k+2}=F_{k+1}+F_k

여기에 약간의 변형을 가하여 uk+1=Auku_{k+1}=Au_k 규칙을 적용해보자.

Fk+2=Fk+1+FkF_{k+2}=F_{k+1}+F_k
Fk+1=Fk+1F_{k+1}=F_{k+1}
uk=[Fk+1Fk]u_k= \begin{bmatrix} F_{k+1} \\ F_{k} \end{bmatrix}
uk+1=[1110]Auku_{k+1} = \underbrace{ \begin{bmatrix} 1 & 1 \\ 1 & 0 \\ \end{bmatrix}}_{A} u_k

위와 같이 변형을 통해 uk+1=Auku_{k+1}=Au_k 형태로 만들었다.
그럼 계속해서 이어가 보자.

A=[1110]A= \begin{bmatrix} 1 & 1 \\ 1 & 0 \end{bmatrix}
AλI=1λ11λ=λ2λ1=0|A-\lambda I|= \begin{vmatrix} 1-\lambda & 1 \\ 1 & -\lambda \end{vmatrix} = \lambda^2-\lambda -1=0
λ=1±52\therefore \lambda=\frac{1\pm \sqrt{5}}{2}
λ1=1+521.6...>1\lambda_1 = \frac{1+ \sqrt{5}}{2} \approx 1.6... > 1
λ2=1520.6...<1\lambda_2 = \frac{1- \sqrt{5}}{2} \approx -0.6... < 1

따라서 피보나치 수열 값이 커지면 λ1\lambda_1만 남을 것이다. (λ2\lambda_2는 1보다 작으므로 kk\to\inftyAk0A^k\to0이 됨.)
그러므로 F100F_{100}은 다음과 같다.

F100c1(1+52)100+0F_{100} \approx c_1(\frac{1+\sqrt5}{2})^{100}+0

이제 x1,x2x_1,x_2도 이어서 구해보자.

(AλI)x=0(A-\lambda I)x=0
[1λ11λ][λ1]=[00]\begin{bmatrix} 1-\lambda & 1 \\ 1 & -\lambda \\ \end{bmatrix} \begin{bmatrix} \lambda \\ 1\\ \end{bmatrix} = \begin{bmatrix} 0 \\ 0 \\ \end{bmatrix}
x1=[λ11],x2=[λ21]\therefore x_1=\begin{bmatrix} \lambda_1 \\ 1\\ \end{bmatrix}, x_2=\begin{bmatrix} \lambda_2 \\ 1\\ \end{bmatrix}

이제 u0=c1x1+c2x2u_0=c_1x_1+c_2x_2x1,x2x_1,x_2를 적용하면,

u0=[F1F0]=[10]u_0= \begin{bmatrix} F_1 \\ F_0 \end{bmatrix} = \begin{bmatrix} 1 \\ 0 \end{bmatrix}
u0=c1x1+c2x2u_0=c_1x_1+c_2x_2

c1,c2c_1,c_2 값을 구할 수 있을 것이다.

따라서 피보나치 수열을 1부터 시작하지 않아도 바로 F100c1(1+52)100F_{100} \approx c_1(\frac{1+\sqrt5}{2})^{100}로 값을 구할 수가 있다.

profile
천천히, 그리고 꾸준히.

0개의 댓글