[선형대수] Lecture 8: Solving Ax = b: row reduced form R

https://ocw.mit.edu/courses/18-06-linear-algebra-spring-2010/video_galleries/video-lectures/

"어떻게 $Ax=b$에 대한 값을 찾을 수 있을까."
해당 강의는 위 내용에 대해서 다룬다.

먼저 예시와 함께 시작하자.

위 방정식들을 $Ax=b$로 표현하면 다음과 같다.

그리고 $A$와 $b$를 합쳐 보자.

그리고 해당 행렬을 Elimination을 적용해 보자.

그러면 위 행렬에서 $0=b_3-b_2-b_1$라는 정보를 얻을 수 있다.
그리고 위 정보를 통해 임의로 $b=\begin{bmatrix}1 \\ 5\\ 6\end{bmatrix}$을 대입해보자. 그리고 위 행렬에 대입해보자.

문제없이 잘 나오는 것을 확인할 수 있다.

---

그렇다면 "$Ax=b$"를 풀이할 수 있는 조건은 무엇일까? 강의에서 제시하는 내용은 다음과 같다.

• $Ax=b$ is solvable when $b$ is in $C(A)$(=$A$의 칼럼 공간)
• If a comb. of rows of $A$ gives zero row, then the same comb. of entries of $B$ must give $0$. (ex. 위에서 $[0 \ 0 \ 0 \ 0 \ | \ 0]$과 같은 경우)

이어서 이를 일반화하면 다음과 같다. (위 행렬을 예시로 설명한다)

1. $x_{particular}$
   • set all free variables to zero. ($x_2=0, x_4=0$)
   • sovle $Ax_p=b$ for the pivot variables.
     $x_1+2x_3=1 \\ 2x_3=3 \\ \rightarrow x_3=\frac{3}{2}, x_1=-2$
   • 따라서 위 예시에서 $x_p$는 $x_p=\begin{bmatrix}-2 \\ 0 \\ \frac{2}{3} \\ 0 \end{bmatrix}$이 된다.
2. $x_{nullspace}$
   • free variable 중 하나는 1로, 나머진 0으로. ($x_2=1, x_4=0$ or $x_2=0, x_4=1$)
   • solve $Ax_n=0$.
   • $x_n=c_1\begin{bmatrix}-2 \\ 1 \\ 0 \\ 0\end{bmatrix}+c_2\begin{bmatrix}2 \\ 0 \\ -2 \\ 1\end{bmatrix}$
3. $x$(정답 벡터)
   • $x=x_p+x_n$
   • $x_n \in \text{subspace of $x_p $}$
   • $A(x_p + x_n) = b$

---

이어서 rank(pivot 칼럼의 수)에 대해서 좀더 알아보자.

• $A_{m\times n}$ 행렬의 rank $r$은 항상 다음과 같은 조건을 만족한다.
  • $r \le m, r \le n$ : pivot의 개수는 항상 행 혹은 열의 개수보다 많을 수 없다.

그렇다면 다음 상황들에 대해서 생각해보자.

1. $r=n<m$

   • ex. $A=\begin{bmatrix}1 & 3 \\ 2 & 1 \\ 6 & 1 \\ 5 & 1\end{bmatrix} \rightarrow \begin{bmatrix}1 & 0 \\ 0 & 1 \\ 0 & 0 \\ 0 & 0\end{bmatrix}$
   • no free variables.
   • $N(A)=0$ only.
   • $x=x_p$ (unique solution if it exists)
   • $R=\begin{bmatrix}I \\ 0\end{bmatrix}$
   • $Ax=b \rightarrow \text{0 or 1 solution.}$

2. $r=m<n$

   • ex. $A=\begin{bmatrix}1 & 2 & 6 & 5 \\ 3 & 1 & 1 & 1\end{bmatrix} \rightarrow \begin{bmatrix}1 & 0 & f_1 & f_2 \\ 0 & 1 & f_3 & f_4\end{bmatrix}$
   • $n-r(=n-m)$ free variables.
   • $R=\begin{bmatrix}I & F\end{bmatrix}$
   • $Ax=b \rightarrow \text{$\infty$ solutions.}$

3. $r=m=n$

   • ex. $A=\begin{bmatrix}1 & 2 \\ 3 & 1\end{bmatrix} \rightarrow \begin{bmatrix}1 & 0 \\ 0 & 1\end{bmatrix}$
   • $R=I$
   • $A$ is a "invertible matrix".
   • $Ax=b \rightarrow \text{1 solution only.}$

4. $r<m,r<n$

   • $R=\begin{bmatrix}I & F \\ 0 & 0\end{bmatrix}$
   • $Ax=b \rightarrow \text{0 or $\infty$ solution(s).}$