직교 행렬의 정의는 모든 column들이 orthonormal set을 이루는 행렬이다. 그렇다면 orthonormal set의 뜻을 알아야 한다. 두 가지 개념이 합쳐져 있다. orthogonal + normal이다. orthogonal, 즉 모든 column 벡터들이 서로 직교한다는 뜻이다. 기하학적으로 해석할 수도 있겠으나, 수식적으로는 내적 (inner product)이 0이라는 것이다. normal, 모든 벡터의 크기가 1로 맞춰져 있다는 것이다. 참고로, 벡터의 크기는 자기 자신과 내적한 뒤, 제곱근을 구하면 된다.
또한 두 벡터 v1,v2의 내적은 v1⋅v2=∥v1∥∥v2∥cosθ인데, 두 벡터가 직교하면 θ=π/2이므로 cos(π/2)=0, v1⋅v2=0이 된다. 만일 두 벡터 v1,v2이 같은 벡터이면(v1=v2), θ=0이므로 v1⋅v2=∥v1∥∥v2∥cos0=∥v1∥2=1이 된다.
이를 정리해보면,
행렬 Q를 각 원소가 서로 직교인 열벡터로 나타내면, Q=[q1q2...qn] qi⋅qj={10 if qi=qj if qi=qj∥qi∥=1
2. 직교 행렬의 성질
Q가 직교행렬이라고 할 때,
1) Q의 전치행렬은 Q의 역행렬
QTQ=I 임을 증명하면 된다. ⎣⎢⎢⎢⎢⎡q1Tq2T⋮qnT⎦⎥⎥⎥⎥⎤[q1q2...qn]=⎣⎢⎢⎢⎢⎡q1Tq1q2Tq1⋮qnTq1q1Tq2q2Tq2⋮qnTq2......⋱...q1Tqnq2Tqn⋮qnTqn⎦⎥⎥⎥⎥⎤=⎣⎢⎢⎢⎢⎡10⋮001⋮0......⋱...00⋮1⎦⎥⎥⎥⎥⎤=I,(qi,qj의i,j는column)
따라서 QT=Q−1
2) Q와 QT를 서로 곱하면 단위행렬 I이다.
앞의 1)에서 QT=Q−1을 증명했으므로 QTQ=I이다.
3) Q는 row 벡터들도 orthonormal set을 이룬다.
Q의 각 원소가 서로 직교인 행벡터의 집합이라고 한다면, Q=⎣⎢⎢⎢⎢⎡q1q2⋮qn⎦⎥⎥⎥⎥⎤,QT=[q1q2...qn]
1)에서 QT=Q−1이므로 QQT=QQ−1=I이다. QQT=⎣⎢⎢⎢⎢⎡q1q2⋮qn⎦⎥⎥⎥⎥⎤[q1Tq2T...qnT]=⎣⎢⎢⎢⎢⎡q1q1Tq2q1T⋮qnq1Tq1q2Tq2q2T⋮qnq2T......⋱...q1qnTq2qnT⋮qnqnT⎦⎥⎥⎥⎥⎤=I,(qi,qj의i,j는row)
이므로 Q의 행벡터의 집합도 서로 직교한다.
4) 직교 행렬 Q의 선형변환을 x라고 할 때, ∥Qx∥=∥x∥ 이다. Qx⋅Qy=x⋅y 이다.(내적보존(dot product preserving))