[선형대수] Lecture 21: Eigenvalues and eigenvectors

https://ocw.mit.edu/courses/18-06-linear-algebra-spring-2010/video_galleries/video-lectures/

이번 강의에서는 "Eigenvalues and Eigenvectors"에 대해서 배운다.

• $\det(A-\lambda I)=0$
• $Trace=\lambda_1+\lambda_2+...+\lambda_n$

우선 $Ax$는 마치 함수에 변수를 넣는 것처럼 $A(x)$와 같다. (즉, $A$는 fnuction이고 $x$는 variables에 해당하는 것처럼)
따라서, 다음과 같이 해석이 가능하다. "$\text{$Ax$ is parallel to $x$}$"
그리고 이 의미는 다음과 같다.

위 식과, parallel하다는 것을 이용하여 다음과 같은 점들을 추측할 수 있다.

• $\text{If $A$ is singular $\rightarrow$ $\lambda=0$}$ ($|A|=0$)
• $\text{$x$ in plane $\rightarrow Px=x$}$ ($P$: projection matrix)
• $\text{$x \perp$plane $\rightarrow Px=0x$}$ ($\lambda=0$)

예시를 들어서 보자.

직관적으로 $x$를 $\begin{bmatrix}1 \\ 1\end{bmatrix},\begin{bmatrix}1 \\ -1\end{bmatrix}$라고 해보자.

그리고 다음과 같은 점을 발견하였다.

• $\text{trace = $a_{11}+a_{22}+...+a_{nn}$ = sum of $\lambda$'s }$
• $0+0=1+(-1)$

---

그렇다면 어떻게 $Ax=\lambda x$ 를 풀이할 수 있을까? 다음을 보자.

위와 같이 $\det(A-\lambda I)=0$ 수식을 통해 $\lambda$ 값을 찾고, 이 값을 $(A-\lambda I)x=0$ 에 적용하여 $x$를 찾을 수 있겠다.
예시와 함께 해보자.
ex.

이제 $x$를 구해보자.

$x_1$

$x_2$

따라서 $A=\begin{bmatrix} 3 & 1 \\ 1 & 3 \\ \end{bmatrix}$ 에 대한 $Ax=\lambda x$ 의 정답은 다음과 같다.

• $\lambda_1=4,x_1=\begin{bmatrix} -1 & 1 \\ 1 & -1 \\ \end{bmatrix}$
• $\lambda_2=2,x_2=\begin{bmatrix} 1 & 1 \\ 1 & 1 \\ \end{bmatrix}$

---

다음으로 $(A+3I)x$에 대해서 생각해보자.
이 경우 eigenvalue와 eigenvector는 어떻게 나올까?

위와 같이 eigenvector는 변화가 없고, eignevalue만 선형적으로 3만큼 증가한 것을 볼 수 있다.

그렇다면 $Ax=\lambda x$, $Bx=\alpha x$ 두 개를 비교해보자.
위와 같이 $(A+B)x=(\lambda+\alpha)x$ 로 연산이 가능할까? 그렇지 않다.
왜냐하면 $A\ne B$이기 때문에 둘의 eigenvector는 다르기 때문이다. 따라서 $Ax=\lambda x$, $Bx=\alpha x$ 조건 자체가 잘못되었다. 올바르게 작성하면 다음과 같다.
$Ax=\lambda x$, $By=\alpha y$

---

다음으로 reverse matrix의 eigenvalues, eignevectors를 구해보자.

따라서 다음과 같이 해석이 가능하다.
$Ax=\lambda x$에서 $A$가 reverse matrix에 가까울수록 $\lambda$는 허수로 나오고, $A$가 symmetric matrix에 가까울수록 $\lambda$는 실수로 나온다.

---

다음으로 upper triangular matrix의 eigenvalues, eigenvectors 를 구해보자.

즉, triangular matrix의 eigenvalues는 대각 성분 값이 나오며, 위 경우 eigenvector는 하나만 존재한다.