[선형대수] Lecture 5: Transposes, permutations, spaces R^n

https://ocw.mit.edu/courses/18-06-linear-algebra-spring-2010/video_galleries/video-lectures/

우리는 이전 강의에서 $A=LU$ 꼴로 만드는 방법을 배웠다.
그리고 이 과정에서 Elimination이 적용되었다.

하지만, 만약 pivot이 0인 경우에 대해서는 어떻게 Eliminiation을 적용할 수 있을까?
이때 필요한 개념이 Permutation이다.

---

먼저, Transpose 개념을 좀더 살펴보자.
예시로 다음 행렬의 Transpose를 구해보자.

행은 열로, 열은 행으로 변경하면 된다.

보다시피 Transpose함으로써 행렬의 차원도 변환된 것을 알 수 있다.

그렇다면 "Symmetric Matrix"란 무엇일까?
이는 Transpose를 적용해도 변화가 없는 행렬을 의미한다.

예시와 함께 살펴보자.

위와 같은 행렬이 Symmetric Matrix다.

그리고 한 가지 재밌는 규칙이 있다.

한번 예시와 함께 살펴보자.

이러한 규칙이 적용되는 이유가 무엇일까?
Transpose와 함께 살펴보자.

보다시피 $R^TR$에 Transpose를 적용해도 변화가 없는 것을 확인할 수 있다.
따라서 $A^TA$는 "Symmetric Matrix"라는 것을 알 수 있다.

---

다음으로 Permutations P에 대해서 알아보자.

즉, Permutations P는 Identity 행렬에서 행들이 reorder된 행렬을 의미한다.

그리고 총 $n!$ 만큼의 $n \times n$ $P$ 행렬들이 나올 것이다.
그리고 Permutation 행렬 P에는 다음과 같은 규칙이 존재한다.

예시는 따로 설명하지 않는다.

---

다음으로 "vector space"에 대해서 알아보자.

몇 가지 질문을 먼저 던진다.

• vector space란 무엇인가.
• 우리는 vector로 어떤 연산을 할 수 있는가.

예제와 함께 살펴보자.

위에서 $\mathbb{R}^2$는 모든 2차원 벡터를 포함하는 "2차원 vector space"를 의미한다. (x-y plane을 생각하면 편하다.)
즉, 이 경우 $\begin{bmatrix}3 \\ 2\end{bmatrix}$, $\begin{bmatrix}0 \\ 0\end{bmatrix}$, $\begin{bmatrix}\pi \\ e\end{bmatrix}$ 등 다양한 2차원 vector들이 모두 해당될 수 있다.

그리고 중요한 점이 있는데, 바로 어떤 vector space라도 반드시 zero vector가 있다는 점이다. zero vector는 매우 필수적이다.

다음으로 3차원 벡터 공간을 알아보자.

마찬가지로 $\mathbb{R}^3$는 실제값 $n$개의 컴포넌트(차원)을 갖는 칼럼 벡터들을 의미한다.

위 예시처럼 0을 갖는 값이 있더라도 이는 $\mathbb{R}^2$가 아니라 $\mathbb{R}^3$라는 점을 주의하길 바란다.

---

그렇다면 vector space가 아닌 예시는 어떤 게 있을까?

• x-y 좌표평면에서 1사분면을 예시로 들어보자.
• 이 경우 $\begin{bmatrix}1 \\ 2\end{bmatrix}$와 같이 양의 값만 갖는 vector에 대해서 add 연산 등은 문제가 없다.
• 하지만 만약, x(-1)과 같은 연산을 하면 어떻게 될까? 이 경우 1사분면의 범위를 벗어나게 된다.
• 따라서 모든 real number을 포함하지 못하므로 1사분면은 vector space라고 볼 수 없다.

그러면 "Subspace"는 무엇일까?
("a vector space inside $\mathbb{R}^2$")

예를 들어, $y=2x$를 생각해보자. 이 벡터($v$)를 x-y 좌표평면 위에 그려보고, $-n$부터 $n$까지 곱해보자. 아마 긴 수평선이 나올 것이다.

따라서, 이를 통해 Subspace의 예시 중 다음을 생각할 수 있겠다.

• "any line in $\mathbb{R}^2$ through zero vector"
• 여기서 중요한 점이 0 벡터를 지나야 한다는 점이다. 왜냐하면 0을 곱했을 때 무조건 0이 나와야하기 때문이다.

$\mathbb{R}^2$의 Subspace를 정리하면 다음과 같다.

• all of $\mathbb{R}^2$.
• any line through zero vector ($\begin{bmatrix}0 \\ 0\end{bmatrix}$).
• zero vector($\begin{bmatrix}0 \\ 0\end{bmatrix}$) only.

그리고 $\mathbb{R}^3$의 Subspace를 정리하면 다음과 같다.

• all of $\mathbb{R}^3$.
• any plane through zero vector.
• any line through zero vector.
• zero vector($\begin{bmatrix}0 \\ 0 \\ 0\end{bmatrix}$).

---

다른 예시로 행렬에 대해서 생각해보자.

A의 칼럼 벡터들을 $\mathbb{R}^3$에서 표현할 수 있다.

즉 다음과 같이 정의할 수 있다.

그리고 위와 같은 공간을 "Column Space" (=$C(A)$)라고 부른다.
즉, 모든 칼럼 벡터들의 조합으로 $C(A)$를 구할 수 있다.