[Linear algebra] 유니터리 대각화 (1)

[Linear algebra] 유니터리 대각화 (1)

이전 포스팅에서까지 학습한 adjoint operators 개념은 사실 이 섹션에서 더욱 확장되고, 발전된다. 내적과 노름을 정의하고, adjoint operators T* 를 정의했던을 잘 기억하며.. 이 단원에서도 쏟아져 나오는 정의와 정리들을 잘 소화해보도록 하자. 선형대수 (2)에서 가장 난이도가 높은 부분일 수 있다.

구체적으로 내용을 들어가기 전에, Chapter 6.4 와 6.5 에서 다루고자 하는 목표는 다음과 같음을 알아두자.

1. 복소수에서 정의된 체에서, Normal operators 는 unitarily diagonalizable 하다.
2. 실수에서 정의된 체에서, Self-adjoint operators 는 orthogonally diagonalizable 하다.

우리는 이제껏 linear operators 와 adjoint operators 라 불리는 연산자에 대해서만 다루었지만, 그것의 확장된 개념으로 normal, self-adjoint 가 무엇인지 배울 것이다. 또한, diagonalizable 하다는 것에서 더 나아가, unitarily 또는 orthogonally diagonalizable 하다는 것이 무엇인지 알아보자.

1. Schur's Theorem

목표를 통해 나아가기 위해 첫 번째로 다루는 것은 Schur's Theorem 이다. 아래를 보자.

• 내적공간 V에서 정의된 linear operator T에 대하여,
• 이것의 characteristic polynomial 이 splits 하다면,
• [T]_r 가 upper triangular 하도록 T에 대한 적절한 orthonormal basis 를 잡을 수 있다는 것이다.

이에 대한 증명을 보자.

• 먼저, 우리는 만약 char_T(t) 가 splits 하다면 [T]_b가 upper triangular 하도록 basis 베타를 잡을 수 있음을 알고 있다. 따라서 보일 것은 이 basis 에 대해 Gram-Schmidt process 를 적용할 경우 여전히 그 변한 Matrix 가 upper triangular 하다는 것인데..
• 결론적으로, T를 basis 에 대해 표현할 경우 T(v1)은 v1의 상수배, T(v2) 는 v2 의 상수배처럼 표현되고, w2 는 v1 의 상수배 + v2 의 상수배 형태로 표현되므로 (Gram-Schmidt Process) 결론적으로 T(w2) 또한 v1, v2 의 상수배로 표시할 수 있고, v1, v2 의 상수배는 곧 w1, w2의 상수배로 표시할 수 있다.
• 따라서 Gram-Schmidt process 는 span 을 변화시키지 않고, upper triangular 인 것도 변화시키지 않는다.

이제 normal 하다는 것의 정의를 보자.

2. Normal 의 정의와 동치조건

내적공간에 주어진 linear operator T 가 있을 때 normal 하다는 것은 $T^*T = TT^*$ 가 성립한다는 것이다. 아래의 정의를 보자.

아래의 각 세타에 대한 각의 변한 matrix 와 skew-symmetric matrix 가 그 예가 될 수 있다.

T 가 normal 하다는 것과 동치조건인 명제를 보자.

T is normal iff $[T]_\beta$ is normal for an orthonormal basis $\beta$, iff $[T]_\beta$ is normal for every orthonormal basis $\beta$.

복잡해 보일 수 있겠지만 사실 같은 선형연산 T를 연산자로 보느냐 matrix 관점에서 보느냐, 하는 것으로 다르게 본 것 뿐이고.. 아래의 증명을 보자.

• 등식이 성립하는 경우는 $[T^*]_\beta$ = $[T]_\beta^*$ 인 경우에 한 해서인데, 이는 beta 가 orthonomral basis 인 경우에만 성립한다고 하였다. (이전 포스팅 참고.)

다음 동치조건인 명제를 보자. 아래의 theorem 은 complex inner product space 에서 주어진 연산자에 한함을 알아두자.

• complex inner product space 에서 주어진 선형연산자 T가 normal 하다는 것과 같은 말은 T의 eigenvectros 로 이루어진 orthonormal basis 가 있다는 것이다. 즉, $[T]_\beta$ 가 digaonalizable 하도록 orthonormal basis $\beta$ 를 잡을 수 있다는 것이다.

오른쪽에서 왼쪽으로 가는 것은 이미 증명한 사실이다. 즉, $[T]_\beta$ 가 diagonalizable 하다면, diagonal X diagonal 을 곱했을 때 commutative (순서를 바꿀 수 있음) 하다는 것을 알기 때문에, $TT^* = T^*T$ 인 것도 보일 수 있게 된다.

왼쪽에서 오른쪽으로 가는 것은 다음과 같다.

• normal 하다는 것은 $[T]_\beta$ 를 orthonormal basis 로 잡을 수 있어서 upper triangular하다는 것과 같은 말이라 하였고..
• upper triangluar 하다는 것에서 더 나아가, diagonal 함을 보이면 된다.
• 아래 증명이 좀 더 자세하다. T(v2) = a1v1 + a2v2 에서 a1임을 보일 수 있다. 따라서, v2 역시 eigenvectors 임을 보일 수 있고.. v3 의 경우도 마찬가지임.
• 따라서 T가 normal 하다는 것과, $[T]_\beta$ 가 orthonormal basis 로 잡아서 diagonal 하게 만들 수 있다는 것은 동치인 명제임을 기억하자.

3. Self-adjoint 의 정의와 동치조건

다음으로는 내적공간 V에서 주어진 선형연산자 T에 대해, T가 sefl-adjoint 하다는 것의 정의를 보자. 정의를 보자마자, $[T^*]_\beta$ = $[T]_\beta^*$ 보다 강한 정의임을 눈치채면 좋다.

이에 대한 간단한 동치조건은 위에서 다룬 대로, orthonormal basis 를 잡을 수 있어서 $[T]_\beta$ 역시 self-adjoint 하다는 것이다.

아래의 Lemma 를 하나 보자.

(1)의 조건은 F 가 복소수인 경우나 실수인 경우나, T가 self-adjoint 라 했을 때 T의 eigenvalue 은 real 이라는 것이다. (2)는 T가 self-adjoint operator 일 때 T의 특성다항식이 인수분해된다는 것이다. 그러나 (2) 조건 역시 F가 복소수인 경우는 너무도 당연하게 (복소수의 체 위에선 다항식 T가 항상 인수분해되므로) 자명한데, 원래 F가 실수인 경우 (2) 은 비자명하지만 T가 self-adjoint 로 주어질 경우 특수하게 가능하다는 점을 강조한 것이다. 이에 대한 증명을 보자.

(1) 에 대한 증명

(2) 에 대한 증명

• (2)에 대한 증명을 할 때 T가 self-adjoint 이면, T가 normal 하다는 것을 이용하고, 그에 따라 T_A를 eigenvalue 를 가지는 diagonal matrix 로 쓸 수 있게 된다.
• T_A의 eigenvalue 는 (1) 에 따라 모두 real 이므로, characteristic polynomial 도 복소수가 아닌 실수에 대해서만 쓸 수 있다. 따라서 이 경우 splits over R임을 보이는 것이 가능해진다.

이제 self-adjoint 하다는 것과 동치인 다른 명제를 하나 더 보자. 여기서의 내적공간은 실수체 위에서 정의된 T를 말한다는 것에 유의하자. 이전에 T가 normal 할 때 복소내적공간에서 정의된 T를 가정했다는 것과 대비된다.

• T가 self-adjoint 하다는 것과 같은 말은 T의 eigenvectors 로 구성된 orthonomral basis for V를 잡을 수 있다는 것이다. 이는 사실 위의 normal 에서의 동치조건과 같고, 바뀐 것이라면 이를 complex 인 경우 normal 하다는 조건 (약한 조건) 이 있어야, real 인 경우 self-adjoint 하다는 조건 (강한 조건) 이 있어야 같은 말이 됨을 알아차리면 된다.
• 오른쪽에서 왼쪽으로 가는 것은, orthonormal 하고 eigenvectors 를 잡을 수 있다면 T가 diagonal 하다는 말이었는데, 따라서 여기에 conjugate transpose 를 취하여도 자기자신이라는 것과 같다.
• 왼쪽에서 오른쪽으로 가는 것을 보이는 것은, Schur's theorem 을 이용해 T가 normal 이기도 하므로 $[T]_\beta$ 는 upper triangular for an orthonormal basis beta 이고, 여기에 F가 real 일 때 self-adjoint 이라는 조건이 있으므로 $[T]_\beta$ 가 diagonal 함을 금방 알 수 있다.

정리하자면, T가 normal 하다는 것은, 같은 말로 F가 complex 인 체 위에서 $[T]_\beta$ is diagonal for some orthonomral basis beta 라는 것이다. 또한, T 가 self-adjoint 하다는 것은, 같은 말로 F가 real 인 체 위에서 $[T]_\beta$ is diagonal for some orthonormal basis beta 라는 것이다.

4. Unitary (Orthogonal) operator

우리가 보여야 할 것은 최종적으로는 1. normal matrix 는 unitarily diagonalizable 하다는 것과, 2. self-adjoint matrix 는 orthogonally diagonalizable 하다는 것이라고 하였다. 그리고, normal 하다는 것의 동치조건은 복소내적공간에서, self-adjoint 하다는 것의 동치조건은 실내적공간에서 사용할 수 있다고 하였다. 아래에서는 같은 정의를 복소수 또는 실수체 위에서 다른 이름으로 정의하는 unitary, orthogonal operator 에 대한 정의를 보여준다

• T가 preserves length 할 경우, 이를 F가 복소수인 경우 T를 unitary 하다, F가 실수인 경우 T를 orthogonal 하다라 부른다.

이와 동치인 명제들 여러가지를 보자.

• (1), (2) 는 $T^* = T^-1$ 이라는 것과 같은 명제이니 이것도 기억해두자.
• (3) 은 T가 preserves norm 하다는 것과 T preserves inner product 하다는 것과 같음을 보여준다.
• (4), (5) 는 orthogonal basis beta 가 있으면 $T(\beta)$ 역시 orthonormal basis for V가 됨을 말한다.

이에 대한 보조정리를 보자.

• (1) 실수체를 가정할 때, T가 self-adjoint + orthogonal 하다는 것과 같은 말은 orthogonal basis of eigenvectors of T가 있어서 이 eigenvectors 들은 절댓값이 1인 eigenvalue 에 대응하는 eigenvectors 임을 말한다.
• (2) 복소수체 위에서는, 이 동치조건은 같고, T가 self-adjoint + orthogonal 하다는 것 대신 unitary 하다는 조건이면 충분하다!

(1) 에 대한 증명은 어렵지 않다.

• T가 self-adjoint 하다는 것은 이미 T가 대각행렬이 되도록 orthonormal basis 을 잡을 수 있다는 것과 같은 말임을 보였는데, 여기에 orthogonal (T preserves norm) 이라는 조건이 추가가 되면, 이에 대응하는 eigenvalue 의 절댓값이 1임을 쉽게 보일 수 있다.

(2) 에 대한 증명의 경우, T is unitary 하다는 것과 $T^*T=I=TT^*$ 와 같음을 알고 있고, 따라서 $TT^* = T^*T$ 이고, 따라서 T가 normal 이다.
복소내적공간에서 T가 normal 하다는 것과 T가 대각행렬이 되도록 orthonormal basis 를 잡을 수 있다는 말과 같은 말이었음을 보였으므로, (2) 도 증명 끝!

예시: rotation, reflection matrix

Orthogonal matrix 의 주요 예시로는 각 세타에 대해 회전변환을 해주는 marix 가 있다. 아래를 보자.

해당 matrix를 A라 할 때, $A^*A = AA^* = I$ 임을 보였으므로 A는 orthogonal 이다. 따라서 회전변환 $L_A$는 length 와 inner product 를 보존한다.

아래를 보자.

• A 가 orthogonal matrix 이어서 length 와 inner product 를 보존한다는 것과, 실제 그림에서 길이와 각을 보존 (inner product <x,y> 는 x와 y 사이의 각으로 해석할 수도 있는데, 이는 변환 후 Tx, Ty 사이의 각과 같음.)

• A 는 normal, orthogonal 이긴 하지만 self-adjoint 는 아니다. 따라서 orthonormal basis of eigenvectors 는 없다.

A가 만약 unitary 였다면 항상 orthonormal basis of eigenvectors 가 있다. 그러나, 이를 만족하기 위해서 실수체에서는 A가 orthogonal + self-adjoint 둘 다 만족해야 함을 기억하자.

두번째 예시는 각의 변환이 아닌 선 L에 대한 대칭이동이다. 아래의 정의를 보자.

• R^2 공간이 있다고 했을 때, 선 L에 대한 대칭이동은 L의 위에 있는 점은 그대로, L과 직교공간에 있는 점은 -x 를 취해주는 것이다.

이러한 대칭이동에 변환이 주어진 T가 orthogonal operator 인지 따져보면, 그러하다. 즉, $T^*T = TT^* = I$ 이며, 길이를 보존한다. 따라서 T는 orthogonal operator 이다.