고유값(EigenValue) vs 고유벡터(EigenVector)
정의:
임의의 행렬 A(n×n)에 대하여, 0이 아닌 솔루션 벡터 x가 존재한다면 숫자 λ는 행렬 A의 고윳값라고 할 수 있다.
Ax=λx (이 때, 솔루션 벡터 x는 고윳값 λ 에 대응하는 고유벡터이다.)
1. 고유값(EigenValue)
- 행렬 A와 고유벡터 v에 대해 Ax=λx를 만족하는 스칼라 값(λ가 고유값)
- 고유값은 고유벡터가 변환될 때 크기 변화의 정도를 나타냄
2. 고유벡터(EigenVector)
- 행렬 A에 대해, 변환 후에도 방향이 변하지 않고 크기만 변하는 벡터를 고유벡터(v가 고유벡터)
- 고유벡터는 변환 후에도 그 방향이 변하지 않는 벡터
3. 중요성
- 주성분 분석을 진행시 데이터의 차원을 축소하여 데이터의 주요 특성을 유지하면서 처리 및 분석을 용이하게 하는데 고유벡터는 데이터의 주성분 방향을 나타내고, 고유값은 각 주성분의 중요성을 나타낸다.
- 선형 판별 분석
- 공분산 행렬에서 데이터의 변동성과 변수 간의 상관성을 파악한다.
예시1
이제부터 고윳값과 고유벡트는 무조건 벡터 Ax와 벡터 x가 평행하다, 같은 선상에 있다는 전제하에 진행된다.
- 영벡터는 고유벡터가 아니다.
- 영벡터에 어떠한 고유값을 붙이더라도 나오는 벡터는 영벡터이다.
- 고유벡터는 무수히 많다.
- Ax = λx (x는 λ에 대한 고유벡터)인데, 다른 실수값을 곱한 벡터(2x)도 결국엔 λ에 대한 고유벡터이다.
- A-λI 는 역행렬이 존재하지 않는다.
- why? 만약 역행렬이 존재한다하면, 벡터 x 는 영벡터이다.조건(영벡터는 고유벡터가 아니다)에 반함. 결국 |A-λI| = 0 을 정의한다. (역행렬 x)
- |A-λI| = 0 을 만족하는 λ 가 고유값이다.
예시2
- Homogeneous linear system (Ax = 0)은 Trivial solution (0,0) 을 갖는다.
- Trivial solution 갖기 위해서는 앞에 붙은 계수 행렬(=A)이 역행렬이 존재해야한다.
- det(A-λI) = 0 을 만족해야만 noninvertible matrix 이 된다.
- A matrix A is invertible (non-singular) if and only if det(A) is not equal to 0.
- |A-λI| = 0 을 했을 때 2개의 solution 이 나온다.
- 각 두 개의 λ(=고유값)이 나오고 그에 대한 고유벡터를 구한다.
새로운 축을 잡고 x,y 축으로 봤을 땐 어떻게 움직였는지 몰랐는데 새로운 좌표 x',y' 새로운 좌표를 봤을 때, x' 좌표로는 2배 & y' 좌표로는 3배로 상수배하는 함수였다. 그러기 위해선 축(기준점, x'& y')을 찾는게 중요하다. λ 값 자체를 고유값이라고 하는데, 행렬 A라는 변환이 새로운 축을 만들었을 때 축 방향으로 λ 값만큼 상수배 하는 변환이다. 그럼 그 축이 뭔데? 그럼 그 축을 구해봐!! 그 축은 벡터(V1) 을 구하는것이다. 해가 직선으로 나온 이유는 라인안에 있는 모든 벡터들은 λ에 의해서 상수배 되기 때문이다.(벡터 V1 포함) 벡터들 중에서 하나만 사용해서 좌표로 써볼까? y좌표를 1로 두고 x좌표를 구해보자 직선이 원점을 지나기 때문에 직선 위의 어떠 한 벡터를 잡아서 그 벡터를 계속 상수배 해주는것이 span
참고자료
https://angeloyeo.github.io/2019/07/17/eigen_vector.html
