정사영 정리

바로 정사영 정리에 들어가기 전에 사전 지식들을 정리해보자.

rank란 pivot variable의 개수
rank = column의 수일 때 full column rank라고 한다.
즉, 모든 컬럼이 pivot을 가진다는 의미이다.(자유변수가 없다)
그렇기 때문에 행렬 A(full column rank)의 null space는 오직 0벡터만 있다.

full row rank는 row의 수와 rank와 같은 것을 의미한다.
즉, 모든 row가 pivot을 가지는 경우이다.
컬럼의 수 = n
자유변수의 개수는 n - r 이 된다.

정방행렬이면서 full rank일 때에는 역행렬을 가진다.

$null(A^TA) = null(A)$
$A : M * N행렬$
$null(A^TA) = A^TAx = 0의 x$
$i)$ $null(A^TA) \subseteq null(A)$
$null(A^TA) = row(A^TA)^T = col(A^TA)^T$
$A^TA = (A^TA)^T$
$v \in col(A^TA),$ $va = 0$
$a(A^TAa) = AaAa = 0 => Aa = 0$
$ii) null(A) \subseteq null(A^TA)$
$Aa = 0 => A^TAa = A^T0 = 0$

차원정리에 의하면
A : M * N 행렬
rank(A) + nullity(A) = n

$rank(A) = n - nullity(A) = rank(A^TA) - nullity(A) => rank(A^TA)$ : full column rank

$V \subseteq R^n일 때 x \in R^n, x = x_1 + x_2$
$(x_1 \in V, x_2 \in V^T)$
로 유일하게 표현된다.

$i) V = {0}, x_1 = 0, x_2 = x, {0}^T = R^n$
$a \in {0}^T, a \cdot 0 = 0$ 유일하다.
$ii) V \neq {0} , V의 기저 B = {v1, v2, ..., vm}$
$x_1 = a1\cdot v1 + a2\cdot v2 + ... + am\cdot vm = Ba$
$x_2 = x - x_1 = x - Ba \in V^T$
$y \in V, y \cdot (x - Ba) = 0$
$y = b1 \cdot v1 + ... + bm \cdot vm = Bb$
$b \in R^m, Bb \cdot (x - Ba) = 0$
$b \cdot B^T(x - Ba) = 0 => b는 임의니까 B^T(x - Ba) = 0을 만족하면 된다.$
$B^Tx - B^TBa = 0$
$B^Tx = B^TBa$ B는 기저이므로 full column rank이다. 고로 $B^TB$도 full column rank로 가역이다.
$a = (B^TB)^-$$^1B^Tx$ 로 해가 존재하면서 존재한다.

참고 : https://www.youtube.com/watch?v=HFONMxI8b2Q&ab_channel=%EC%88%98%ED%95%99%EC%B1%84%EB%84%90%EC%91%A4%ED%8A%9C%EB%B8%8C