Eigenvalue와 Eigenvector

허준혁·2023년 3월 1일
선형대수학
0

선형대수학

목록 보기
4/4

이번 강의에서 다룰 내용은 Eigenvalue and Eigenvector이다. 이번 강의에서는 이전 강의에서 배운 Projection 개념과 Determinant 개념이 사용 되기 때문에 이해를 돕기 위해서 이전강의 들을 배우고 듣는 것을 추천한다.

Eigenvector

어떠한 행렬 Ax는 다음과 같은 방식으로도 이해할 수 있다.

💡 X가 어떠한 함수의 input이고 Ax가 함수의 출력값

이렇게 행렬 Ax를 함수의 개념으로 생각한다면, eigenvector가 무엇인지 더 쉽게 이해할 수 있다. 만약 어떠한 행렬 x를 함수의 input값으로 넣었을 때 출력값 Ax가 x와 같은 방향을 가지고 있다면 이것을 eigenvector 라고 부른다. 이를 수식으로 표현하면

Ax=λxAx = \lambda x

여기서 람다를 eigenvalue라고 한다. 즉, 어떠한 행렬 Ax를 egienvalue x egienvector의 형태로 나타낸 것 이다.

Projection과 eigenvector의 관계

만약 어떠한 행렬 b를 어느 평면위에 projection한다고 했을 때 경우를 살펴보자

1. B가 평면에 속해 있을 때

B가 평면에 속해 있다면 Pb = 1 x 이므로 1이 eigenvalue x가 eigenvector가 되는 것 이다.

2. B가 평면과 수직일 때

B가 평면과 수직이라면 Pb=1x 이므로 eigenvalue가 0이다.

How to find eigenvalue?

Eigenvalue를 구하는 방법은 determinant의 성질을 이용하여 구한다. 위의 식에서 우변의 식을 좌변으로 이항하면 다음과 같은 식이 완성된다.

A(1−λI)x=0A(1-\lambda I)x = 0

이때, x 의 해는 존재하므로 즉, null space에 zero vector가 아닌 값이 존재하므로, x좌측의 식은 singular이다. Singular한 행렬의 determinant는 0 이라는 것을 알고 있기 때문에 이를 이용하여 eigenvalue의 값을 구한다.

Examples

A=[3  11  3]A = \begin{bmatrix} 3 \ \ 1 \\ 1 \ \ 3 \end{bmatrix}

A 행렬의 eigenvalue를 구해보면

det(A−λx)=∣(3−λ)      11      (3−λ)∣=(3−λ)2−12=λ2 − 6λ + 8(λ−2)(λ−4)λ=4,2det(A-\lambda x) = \begin{vmatrix} (3-\lambda) \ \ \ \ \ \ 1 \\1 \ \ \ \ \ \ (3-\lambda) \end{vmatrix} \\ =(3-\lambda)^2 - 1^2 \\ =\lambda^2 \ - \ 6\lambda \ + \ 8 \\ (\lambda-2)(\lambda-4) \\ \lambda = 4, 2

이렇게 eigenvalue를 구한 뒤 eigenvector를 구할 수 있다. 우선 eigenvalue의 값이 4일 때는

A−λx=[−1  11  −1][x1x2]x11=1,x21=1A-\lambda x = \begin{bmatrix} -1 \ \ 1 \\ 1 \ \ -1 \end{bmatrix} \begin{bmatrix} x_1 \\ x_2 \end{bmatrix} \\ x_{11} = 1, x_{21} = 1

Eigenvector가 (1,1)이 나오게 된다. Eigenvalue의 값이 2 일 떄는

A−λx=[1  11  1][x1x2]x12=1,x22=−1A-\lambda x = \begin{bmatrix} 1 \ \ 1 \\ 1 \ \ 1 \end{bmatrix} \begin{bmatrix} x_1 \\ x_2 \end{bmatrix} \\ x_{12} = 1, x_{22} = -1

Eigenvector가 (1,-1)이 나오게 된다. 이러한 일련의 과정을 통해 eigenvalue와 eigenvector를 구할 수 있다.

💡 이때 주의해야 할 점은 서로다른 두 행렬을 합했을 때, 합한 행렬의 eigenvalue 는 각각의 eigenvalue의 합과 다르다.

Ax=λxBx=αxλ,α=eigenvalue(A+B)x≠(λ+α)xAx = \lambda x \\ Bx = \alpha x \\ \lambda, \alpha = eigenvalue \\ (A+B)x \ne (\lambda + \alpha)x

Rotation matrix

Rotation matrix 즉 모든 column들이 서로 수직인 행렬같은 경우에는 eigenvalue의 값이 특이한 형태로 나오게 된다. 예제를 통해 알아보자.

Examples

Q행렬은 서로의 cloumn들이 orhogonal한 형태이다.

Q=[0 −11    0]Q = \begin{bmatrix} 0 \ -1 \\1 \ \ \ \ 0 \end{bmatrix}

💡 Eigenvalue를 구하기 전에 Q행렬은 어떠한 입력값 x를 90도 회전시키는 행렬인데, 똑같은 방향성을 나타내는 eigenvector를 구할 수 있을까??

위의 물음을 해결하기 위해 우선 eigenvalue를 구하는 과정을 거쳐보면

det(Q−λx)=∣(0−λ)      −11      (0−λ)∣=(λ)2+12λ2=−1det(Q-\lambda x) = \begin{vmatrix} (0-\lambda) \ \ \ \ \ \ -1 \\1 \ \ \ \ \ \ (0-\lambda) \end{vmatrix} \\ =(\lambda)^2 + 1^2 \\ \lambda^2 = -1

Eigenvalue의 값이 실수가 아닌 허수가 나오게 된다.

💡 Parrarel과는 거리가 먼 개념인 rotation matrix의 경우에는 eigenvalue가 허수가 나오는 경우가 발생하게 된다.

Other examples

종종 eigenvalue의 값이 하나만 나오는 경우가 존재한다. 예시를 통해서 알아보도록 하자.

examples

A=[3    10    3]A = \begin{bmatrix} 3 \ \ \ \ 1 \\0 \ \ \ \ 3 \end{bmatrix}

Eigenvalue를 구해보면

det(A−λx)=∣(3−λ)      01      (3−λ)∣=(3−λ)2λ=3det(A-\lambda x) = \begin{vmatrix} (3-\lambda) \ \ \ \ \ \ 0 \\1 \ \ \ \ \ \ (3-\lambda) \end{vmatrix} \\ =(3-\lambda)^2 \\\lambda = 3

이렇게 eigenvalue가 중근을 가지게 된다면 eigenvector를 어떻게 구할 수 있을까?

A−λx=[0  10  0][x1x2]x11=1,x21=−1A-\lambda x = \begin{bmatrix} 0 \ \ 1 \\ 0 \ \ 0 \end{bmatrix} \begin{bmatrix} x_1 \\ x_2 \end{bmatrix} \\ x_{11} = 1, x_{21} = -1

X_11과 x_21은 구할 수 있지만 eigenvalue의 값이 하나밖에 존재하지 않아 x_21, x_22의 값은 구할 수가 없다. 이러한 경우의 해결책은 다음강의에서 계속된다.

profile
허준혁
이전 포스트

Pseudo Inverse

0개의 댓글