고유 벡터, 고유값, 행렬식(det), 고유값 분해

1. 고유 벡터 (Eigenvector)와 고유값 (Eigenvalue)

행렬 $A$가 있을 때, 고유값과 고유벡터는 다음과 같은 관계를 만족하는 값입니다:

$A \mathbf{v} = \lambda \mathbf{v}$

• $A$ : 주어진 행렬
• $\mathbf{v}$ : 고유벡터
• $\lambda$ : 고유값

즉, 고유벡터 $\mathbf{v}$는 행렬 $A$에 의해 스케일만 변화하는 벡터로, 방향은 바뀌지 않습니다. 이때 스케일의 정도가 바로 고유값 $\lambda$입니다.

2. 행렬식 (det)

행렬식 $\det(A)$은 주어진 행렬의 특성을 나타내는 값입니다. 특히, 행렬식은 주로 행렬이 가역적인지 아닌지 판단하는 데 사용됩니다.

• $\det(A) = 0$: 행렬이 비가역적 (역행렬이 존재하지 않음)
• $\det(A) \neq 0$: 행렬이 가역적 (역행렬이 존재)

행렬식은 행렬의 크기와 성질을 나타내며, 고유값 계산 시 중요한 역할을 합니다.

3. 고유값 분해 (Eigenvalue Decomposition)

고유값 분해는 주어진 정방행렬을 고유값과 고유벡터를 이용해 분해하는 방법입니다. 주어진 $n \times n$ 행렬 $A$에 대해 다음과 같은 형태로 분해할 수 있습니다:

• $\det(A - \lambda I) = 0$ 식을 풀어 고유값 $\lambda$를 구합니다.
• 각 고유값에 대해, $(A - \lambda I)\mathbf{v} = 0$을 풀어 고유벡터 $\mathbf{v}$를 구합니다.
• 고유값 분해 과정에서는 고유값과 고유벡터를 구한 후, 이를 사용하여 $A = V \Lambda V^{-1}$ 형태로 분해합니다.

$A = V \Lambda V^{-1}$

• $V$: 고유벡터들로 구성된 행렬 (고유벡터들이 열벡터로 들어간 행렬)
• $\Lambda$: 고유값을 대각선으로 가지는 대각행렬
• $V^{-1}$: 행렬 $V$의 역행렬

---

행렬식(det)과 비가역적인 행렬 예제

비가역적인 행렬은 역행렬이 존재하지 않는 행렬을 말합니다. 역행렬이 존재하려면 행렬의 행렬식(det)이 0이 아니어야 합니다. 행렬식이 0인 행렬은 비가역적입니다.

예제 1: $2 \times 2$ 비가역 행렬

다음 행렬 $A$의 행렬식을 계산해보겠습니다:

$A = \begin{pmatrix} 1 & 2 \\ 2 & 4 \end{pmatrix}$

행렬식 $\det(A)$은 다음과 같이 계산됩니다:

$\det(A) = (1)(4) - (2)(2) = 4 - 4 = 0$

행렬식이 0이므로, $A$는 비가역적인 행렬입니다.

예제 2: $3 \times 3$ 비가역 행렬

다음 행렬 $B$를 고려해 보겠습니다:

$B = \begin{pmatrix} 1 & 2 & 3 \\ 4 & 5 & 6 \\ 7 & 8 & 9 \end{pmatrix}$

행렬식 $\det(B)$을 계산해 보면:

$\det(B) = 1(5 \times 9 - 6 \times 8) - 2(4 \times 9 - 6 \times 7) + 3(4 \times 8 - 5 \times 7)$

$= 1(45 - 48) - 2(36 - 42) + 3(32 - 35)$

$= 1(-3) - 2(-6) + 3(-3)$

$= -3 + 12 - 9 = 0$

행렬식이 0이므로, $B$ 역시 비가역적입니다.

비가역 행렬의 특징

• 비가역적인 행렬은 선형 독립이 아닌 행 또는 열을 가집니다. 즉, 행렬의 행이나 열 중 일부가 다른 행이나 열의 선형 결합으로 표현될 수 있습니다.
• 비가역적인 행렬은 역행렬이 존재하지 않으며, 이로 인해 선형 방정식 시스템을 풀 수 없습니다.

이와 같은 행렬은 종종 선형 변환에서 축소된 차원이나 일종의 특수한 구조를 가진 경우입니다.

---

고유값 분해 과정 예제

행렬 $A$와 고유값, 고유벡터를 구하는 과정은 보통 다음과 같습니다:

• $\det(A - \lambda I) = 0$ 식을 풀어 고유값 $\lambda$를 구합니다.
• 각 고유값에 대해, $(A - \lambda I)\mathbf{v} = 0$을 풀어 고유벡터 $\mathbf{v}$를 구합니다.

고유값 분해 과정에서는 고유값과 고유벡터를 구한 후, 이를 사용하여 $A = V \Lambda V^{-1}$ 형태로 분해합니다.

주어진 행렬 $A$는 다음과 같습니다:

$A = \begin{pmatrix} 4 & 1 \\ 2 & 3 \end{pmatrix}$

1. 고유값 구하기

고유값을 구하려면, 고유값 방정식을 풀어야 합니다. 고유값 방정식은 다음과 같습니다:

$\det(A - \lambda I) = 0$

여기서 $\lambda$는 고유값이고, $I$는 단위 행렬입니다. $A - \lambda I$를 계산하면:

$A - \lambda I = \begin{pmatrix} 4 - \lambda & 1 \\ 2 & 3 - \lambda \end{pmatrix}$

이 행렬의 행렬식을 계산하여 0으로 두면 고유값을 구할 수 있습니다:

$\det(A - \lambda I) = (4 - \lambda)(3 - \lambda) - (1)(2)$

$= (4 - \lambda)(3 - \lambda) - 2 = 0$

$= \lambda^2 - 7\lambda + 10 = 0$

이제 이 이차 방정식을 풀어 고유값 $\lambda$를 구합니다:

$\lambda^2 - 7\lambda + 10 = 0$

이 방정식은 근의 공식으로 풀 수 있습니다:

$\lambda = \frac{-(-7) \pm \sqrt{(-7)^2 - 4(1)(10)}}{2(1)} = \frac{7 \pm \sqrt{49 - 40}}{2} = \frac{7 \pm \sqrt{9}}{2}$

$\lambda = \frac{7 \pm 3}{2}$

따라서 고유값은:

$\lambda_1 = \frac{7 + 3}{2} = 5, \quad \lambda_2 = \frac{7 - 3}{2} = 2$

2. 고유벡터 구하기

각 고유값에 대해 고유벡터를 구해야 합니다. 고유벡터는 다음 식을 만족하는 벡터 $\mathbf{v}$입니다:

$(A - \lambda I)\mathbf{v} = 0$

고유값 $\lambda_1 = 5$에 대한 고유벡터:

$A - 5I = \begin{pmatrix} 4 - 5 & 1 \\ 2 & 3 - 5 \end{pmatrix} = \begin{pmatrix} -1 & 1 \\ 2 & -2 \end{pmatrix}$

이제 $(A - 5I)\mathbf{v} = 0$을 풀어봅니다:

$\begin{pmatrix} -1 & 1 \\ 2 & -2 \end{pmatrix} \begin{pmatrix} x \\ y \end{pmatrix} = \begin{pmatrix} 0 \\ 0 \end{pmatrix}$

첫 번째 방정식은:

$-1x + 1y = 0 \quad \Rightarrow \quad x = y$

따라서 고유벡터는 $\mathbf{v_1} = \begin{pmatrix} 1 \\ 1 \end{pmatrix}$입니다.

고유값 $\lambda_2 = 2$에 대한 고유벡터:

$A - 2I = \begin{pmatrix} 4 - 2 & 1 \\ 2 & 3 - 2 \end{pmatrix} = \begin{pmatrix} 2 & 1 \\ 2 & 1 \end{pmatrix}$

이제 $(A - 2I)\mathbf{v} = 0$을 풀어봅니다:

$\begin{pmatrix} 2 & 1 \\ 2 & 1 \end{pmatrix} \begin{pmatrix} x \\ y \end{pmatrix} = \begin{pmatrix} 0 \\ 0 \end{pmatrix}$

첫 번째 방정식은:

$2x + y = 0 \quad \Rightarrow \quad y = -2x$

따라서 고유벡터는 $\mathbf{v_2} = \begin{pmatrix} 1 \\ -2 \end{pmatrix}$입니다.

3. 고유값 분해

고유값 분해는 $A = V \Lambda V^{-1}$로 나타낼 수 있습니다. 여기서:

• $V$는 고유벡터들을 열벡터로 가진 행렬입니다.
• $\Lambda$는 고유값을 대각선으로 가진 대각행렬입니다.
• $V^{-1}$는 $V$의 역행렬입니다.

따라서, 고유벡터들을 열벡터로 가지는 행렬 $V$는:

$V = \begin{pmatrix} 1 & 1 \\ 1 & -2 \end{pmatrix}$

고유값을 대각선에 배치한 행렬 $\Lambda$는:

$\Lambda = \begin{pmatrix} 5 & 0 \\ 0 & 2 \end{pmatrix}$

따라서 고유값 분해는:

$A = \begin{pmatrix} 1 & 1 \\ 1 & -2 \end{pmatrix} \begin{pmatrix} 5 & 0 \\ 0 & 2 \end{pmatrix} \begin{pmatrix} 1 & 1 \\ 1 & -2 \end{pmatrix}^{-1}$

이로써 $A$를 고유값 분해한 결과를 얻을 수 있습니다.