Four Fundamental Subspace

$m\times n$ matrix $A$에 대하여,

Column space of A

모든 $n$차원 벡터 $\bold x$에 대해 $A\bold x$ 들의 집합 공간. (=행렬 $A$의 column의 linear combination)

• $\bold x$ 의 차원 : $m\times n$ matrix $A$의 오른쪽에 곱해지므로 $n$차원 벡터

• $A \bold x$는 $m\times \not n \cdot \not n \times 1 = m \times 1$ 이므로 $m$차원의 subspace

Row space of A

=Column space of $A^T$

모든 $m$차원 벡터 $\bold x$에 대해 $A^T\bold x$ 들의 집합 공간. (=행렬 $A^T$의 column, 즉 $A$의 row의 linear combination)

• $\bold x$ 의 차원 : $n\times m$ matrix $A^T$의 오른쪽에 곱해지므로 $m$차원 벡터

• $A^T \bold x$는 $n\times \not m \cdot \not m \times 1 = n \times 1$ 이므로 $n$차원의 subspace

Nullspace of A

$A$에 곱한 결과가 0이 되도록하는 $n$차원 벡터 $\bold x$들의 집합 공간.

• 벡터 $\bold x$는 $m\times n$ matrix $A$의 오른쪽에 곱해지므로 $n$차원의 subspace

Left nullspace of A

=Null space of $A^T$

$A^T$에 곱한 결과가 0이 되도록하는 $m$차원 벡터 $\bold x$들의 집합 공간.

• Left?
  • 행렬 $A$의 왼쪽에 곱한 결과가 $0$이 되는 벡터 $\bold y$를 가정한다.
    $\bold y A =\bold 0$
  • 기존의 방정식 형태에 양변을 전치하여, $\bold y^T = \bold x$로 생각하여 left nullspace를 표현할 수 있다.
    $(\bold y A)^T = \bold 0 \rightarrow A^T\bold y ^T = \bold 0$
• 벡터 $\bold x$는 $n\times m$ matrix $A^T$의 오른쪽에 곱해지므로 $m$차원의 subspace
  (↔  벡터 $\bold y$는 $m\times n$ matrix $A$의 왼쪽에 곱해지므로 $m$차원의 subspace)
  

Demension of Four Fundamential Subspace

Dimension of C(A)

$C(A)$의 basis는 $A$의 pivot column의 갯수와 같다.

→ pivot column의 수는 pivot의 수와 동일하고, pivot의 개수를 나타내는 것은 rank이다.

→ 따라서 차원은 $r(A)$이다.

Dimension of C(A^T)

$C(A^T)$의 basis는 $A^T$의 pivot column의 갯수와 같다.

→ pivot column의 수는 pivot의 수와 동일하고, pivot의 개수를 나타내는 것은 rank이다.

→ $r(A^T) = r(A)$이므로 차원은 $r(A)$이다.

Dimension of N(A)

$A\bold x = \bold 0$의 special solution은

• 서로 선형독립관계이다.
• $N(A)$를 span한다.

→ special solution이 $N(A)$의 basis이며, basis안의 벡터의 개수(=차원)는 special solution의 개수와 동일하다.

→ special solution의 개수는 free column의 수와 동일하므로 전체 column에서 pivot column의 수를 빼준다.

→ 따라서 차원은 $n- r(A)$이다.

Dimension of N(A^T)

앞서 영공간의 차원을 구하는 과정을 똑같이 적용한다. (이때 $r(A) == r(A^T)$이므로 아래와 같이 표현가능)

For Fundamential Subspace의 dimension 연산

4개의 subspace와 그 dimension에 대하여 아래 공식이 항상 성립한다. ($A$는 $m\times n$ 행렬)

• $\mathbb R^n$에서
  $\dim(C(A^T)) + \dim(N(A)) = n$

• $\mathbb R^m$에서

→ 각 dimension이 어떤 값을 갖는지 생각해보면 쉽게 증명할 수 있다.

+ Elimination 전후 row space 💫

행렬 $A$에 elimination을 진행한 결과로 나타나는 행렬을 $U$라고 할 때, $A$와 $U$는 동일한 row space를 갖는다.

• elimination 과정은 기존 행렬의 row space안에서 일어나는 과정이다.
  → 기존 행들의 linear combination이 바로 Gauss elimination를 의미한다.
  
• linear combination은 해당 공간안에서만 일어나는 닫힌 연산이기 때문에, 기존의 row space로 표현할 수 없는 새로운 벡터가 Elimination이후에 나타날 수 없다.
• 단, column space는 변화한다.