2. 선형결합

MostlyFor·2023년 1월 3일

인공지능을 위한 선형대수

목록 보기

3/17

본 게시글은 주재걸 교수님의 인공지능을 위한 선형대수 강의를 듣고 정리한 내용입니다.
https://www.boostcourse.org/ai251/joinLectures/195088

Notation

Scalar : 소문자
Vector : 굵은 소문자 (기본 형태가 column vector)
Matrix : 대문자

키워드

선형결합 - 행렬을 재료벡터로 분해해서 기하학적으로 보는 도구

Span - 재료벡터의 선형결합으로 나타낼 수 있는 집합

같은 차원의 벡터들을 상수배 하여 더하는 것이 선형결합이다.

이를 이용하면 행렬의 곱으로 나타내어진 Matrix Equation을 Vector Equation으로 표현할 수 있다.

\begin{pmatrix} 60 & 5.5 & 1 \\ 65 & 5.0 & 0 \\ 55 & 6.0 & 1 \end{pmatrix} \begin{pmatrix} x_1\\ x_2\\ x_3\\ \end{pmatrix} = \begin{pmatrix} 66 \\74\\78\end{pmatrix}

\begin{pmatrix} 60 \\65\\55\end{pmatrix} x_1 + \begin{pmatrix} 5.5 \\5.0\\6.0\end{pmatrix} x_2 +\begin{pmatrix} 1 \\ 0 \\ 1\end{pmatrix} x_3 =\begin{pmatrix} 66 \\74\\78\end{pmatrix}

이렇게 Vector Equation으로 표현하게 되면 우리는 기하학적으로 위 식을 이해할 수 있게 된다.
Span이라는 개념을 이용하여 위 방정식의 해의 유무를 바로 알 수 있다.

Span은 재료 벡터들이 주어졌을 때 그 재료 벡터들을 선형결합하여 만들 수 있는 모든 벡터의 집합이다.

즉, 평행하지 않은 2개의 벡터가 있으면 Span은 한 평면을 모두 표현할 수 있다.
2개의 벡터가 만드는 평면에 나머지 하나의 벡터가 속하지 않는 경우 3개의 벡터가 있으면 Span은 공간을 표현하게 된다.

다시 이해하고자 하는 방정식으로 돌아와서, 이때의 x1, x2, x3는 선형결합의 계수라고 볼 수 있다. 즉 세 벡터가 만드는 span위에 (66,74,78)이 있다면 위 식을 만족하는 x1, x2, x3도 존재함을 알 수 있다.

\begin{pmatrix} 60 \\65\\55\end{pmatrix} x_1 + \begin{pmatrix} 5.5 \\5.0\\6.0\end{pmatrix} x_2 +\begin{pmatrix} 1 \\ 0 \\ 1\end{pmatrix} x_3 =\begin{pmatrix} 66 \\74\\78\end{pmatrix}

위에서 본 것처럼 행렬곱을 재료벡터 (열벡터) 들의 선형결합으로서 이해한다.

\begin{pmatrix} 60 & 5.5 & 1 \\ 65 & 5.0 & 0 \\ 55 & 6.0 & 1 \end{pmatrix} \begin{pmatrix} x_1\\ x_2\\ x_3\\ \end{pmatrix} = \begin{pmatrix} 66 \\74\\78\end{pmatrix}

\begin{pmatrix} 60 \\65\\55\end{pmatrix} x_1 + \begin{pmatrix} 5.5 \\5.0\\6.0\end{pmatrix} x_2 +\begin{pmatrix} 1 \\ 0 \\ 1\end{pmatrix} x_3 =\begin{pmatrix} 66 \\74\\78\end{pmatrix}

\begin{pmatrix} 60 & 5.5 & 1 \\ 65 & 5.0 & 0 \\ 55 & 6.0 & 1 \end{pmatrix} \begin{pmatrix} x_1 & y_1\\ x_2 & y_2\\ x_3 & y_3\\ \end{pmatrix} = \begin{pmatrix} a_1 & b_1\\ a_2 & b_2\\ a_3 & b_3\\ \end{pmatrix}

\bold a= \begin{pmatrix} 60 \\65\\55\end{pmatrix} x_1 + \begin{pmatrix} 5.5 \\5.0\\6.0\end{pmatrix} x_2 +\begin{pmatrix} 1 \\ 0 \\ 1\end{pmatrix} x_3

\bold b= \begin{pmatrix} 60 \\65\\55\end{pmatrix} y_1 + \begin{pmatrix} 5.5 \\5.0\\6.0\end{pmatrix} y_2 +\begin{pmatrix} 1 \\ 0 \\ 1\end{pmatrix} y_3

다음과 같이 열벡터끼리 쪼개서 볼 수 있다.

$(AX)^T=X^{T}A^T$ 임을 이용해서 마찬가지로 행벡터로 해석할 수 있다.

\begin{pmatrix} 1 & 4 \\ 2 & 5 \\ 3 & 6 \end{pmatrix} \begin{pmatrix} 1 & 0 & 1\\ 0 & 1 & 0\\ \end{pmatrix} = \begin{pmatrix} 1 \\ 2 \\ 3\\ \end{pmatrix} \begin{pmatrix} 1 & 0 & 1\\ \end{pmatrix} + \begin{pmatrix} 4 \\ 5 \\ 6\\ \end{pmatrix} \begin{pmatrix} 0 & 1 & 0\\ \end{pmatrix}

큰 행렬을 분해해서 다음과 같이 외적의 합으로 나타낼 수 있다.
행렬을 분해해보고 싶을 때 주로 사용할 수 있다.

강의 출처
https://www.boostcourse.org/ai251/lecture/540314?isDesc=false