본 게시글은 주재걸 교수님의 인공지능을 위한 선형대수 강의를 듣고 정리한 내용입니다.
https://www.boostcourse.org/ai251/joinLectures/195088
Notation
Scalar : 소문자
Vector : 굵은 소문자 (기본 형태가 column vector)
Matrix : 대문자
핵심
- 선형변환을 나타내는 행렬의 재료벡터인 열벡터가 나타내는 의미
이 게시글은 1 ~ 6번 게시글(대단원 1) 에 대해 정리하고 내용을 재구성한 글입니다.
우리가 머신러닝 혹은 딥러닝 네트워크를 사용할 때 네트워크는 선형변환과 비선형변환의 결합으로 구성된다. 또는 선형 회귀와 같은 간단한 문제들은 선형변환만으로 풀 수 있다.
따라서 우선 선형변환에 대한 이해와 해석은 필수이다.
선형변환의 해석
선형변환을 해석하기 위해서는 행렬과 벡터의 시각으로 봐야 한다.
참고로 모든 선형변환은 행렬로 나타낼 수 있다.
m차원에서 n차원으로 변환하는 선형변환은 선형시스템, 행렬방정식, 벡터방정식으로 다음과 같이 볼 수 있다.
이때 들은 각각 재료벡터라고 한다.
우리는 위 선형시스템의 해를 직관적으로 이해할 수 있다.
위 선형시스템의 해가 있다는 것은 재료벡터들의 선형결합으로 벡터 b를 표현할 수 있다는 것을 의미한다.
이는 재료벡터들의 선형결합으로 나타낼 수 있는 벡터들의 집합인 span에 b가 포함된다는 의미이다.
따라서 만약 재료벡터들이 선형독립 (서로가 서로를 표현할 수 없음, span 확장 o) 이라면 해는 0개 이거나 1개가 되고, 만약 선형종속(서로가 서로를 표현할 수 있음, span 확장 x) 이라면 해가 0개 이거나 무수히 많게 된다.
