네이버 부스트캠프 AI Tech 4기 선형대수학 스터디 3회차
선형대수학 이상구 저 Chapter3
3.4 부분공간과 일차독립
정의 [부분공간]
- 집합 W(=∅)가 Rn의 부분집합일 때, 아래 두 조건을 만족하면 W는 Rn의 부분공간(subspace)
(1) x, y∈W⟶x+y∈W (덧셈에 닫힘)
(2) x∈W, k∈R⟶kx∈W (스칼라배에 닫힘)
- Rn의 부분집합이라면 벡터의 차원이 n이하이겠구나
- 부분집합과 부분 공간은 다른 의미지만, 조건이 만족되면 부분집합을 부분공간이라고 할 수 있구나
- 부분공간임을 확인하려면 위 두 조건을 검증해보자!
- Rn의 모든 부분공간은 영벡터 포함
- x∈W, 0∈R⟶0x=0∈W
- (예시) (x, y)∈R2에 대해 y=x 위의 점의 집합은 위 두 조건을 만족하지만 y=x+1 직선의 경우에는 (1)조건을 만족하지 못하여 R2의 부분공간이 아님
- 정리하면, R2의 모든 부분공간은 아래와 같음
- 영공간 {0}
- 원점을 지나는 line (y=x 등)
- R2 전체
- 그럼 R3의 모든 부분공간은 아래와 같음
- 영공간 {0}
- 원점을 지나는 line (y=x 등)
- 원점을 지나는 평면
- R3 전체
- 행렬 A=[aij]m×n에 대해 집합 W={x∈Rn∣Ax=0}는 Rn의 부분공간이라면, 이러한 W를 Ax=0의 해공간(solution space) 또는 A의 영공간(null space)이라 함
정의 [일차결합]
- Rn의 부분집합 {x1, x2, …, xk}에 대해 벡터 x∈Rn가
x=c1x1+c2x2+⋯+ckxk, c1, c2, …, ck∈R
의 꼴로 표현되면, x를 벡터 x1, x2, …, xk의 일차결합(linear combination)이라 함
- 일차결합의 정의는 아래와 같이 부분공간을 이해하는 데에 필요
- Rn의 부분집합 S={x1, x2, …, xk}에 대해 S의 k개 벡터들의 일차결합 전체의 집합, W={c1x1+c2x2+⋯+ckxk∣c1, c2, …, ck∈R}은 Rn의 부분공간
- 위 상황에서 아래와 같이 용어를 정의
- W는 S에 의해 생성된(spanned) Rn의 부분공간
- 집합 S는 W를 생성(span)
- S를 W의 생성집합(spanning set)
- 기호로는, W=span(S) 또는 W= <S>
- 여기서 Rn에 있는 모든 벡터가 S의 k개 벡터들의 일차결합이면, 반대로 생각하여 S라는 집합에서 Rn이라는 집합이자 공간을 생성한 것과 같으므로 Rn= <S>={c1x1+c2x2+⋯+ckxk∣c1, c2, …, ck∈R}
- 적절한 2개의 벡터가 있어야 평면 위 벡터를 모두 표현할 수 있듯이, 여기서 k는 n이어야 Rn 공간을 모두 표현할 수 있을 것!
- 참고 [Chapter1에서 정의한 일차결합]
- 위 정의와 동일하지만 집합의 개념이 추가되었음
정리하자면 Rn 공간 내의 어떤 집합 W가 있을 때, W를 이루는 한 벡터의 스칼라배, 두 벡터 사이의 덧셈, 여러 벡터 사이의 일차결합이 다시 해당 공간 Rn에 속한다면 이 집합 W는 Rn의 부분공간이라는 것. 다만 벡터의 일차결합으로 생성한 새로운 집합 W′은 기존 W의 span이라고 함
정의 [행공간과 열공간]
- A=[aij]∈Mm×n이면 A의 열벡터 A(1),A(2),…,A(n)의 생성(span)
<A(1), A(2), …, A(n)> 또는 Col(A)
은 Rm의 부분공간, 이를 A의 열공간(column space)
- A=[aij]∈Mm×n이면 A의 행벡터 A(1),A(2),…,A(n)의 생성(span)
<A(1), A(2), …, A(n)> 또는 Row(A)
은 Rn의 부분공간, 이를 A의 행공간(row space)
- 행렬의 모든 행벡터, 열벡터를 가지고 일차결합을 쓸 수 있을 것인데, 그것은 그 차원 공간의 부분집합이자 부분공간인 것이 자명하므로 이를 행공간, 열공간으로 정의하는 것
정의 [일차독립과 일차종속]
- S={x1, x2, …, xk}⊆Rn에 대해
c1x1+c2x2+⋯+ckxk=0 (c1, c2, …, ck∈R)→c1=c2=⋯=ck=0
이면 벡터 x1, x2, …, xk 또는 집합 S는 일차독립(linearly independent), 반대로 일차독립이 아니라면 일차종속(linearly dependent)라고 함
벡터의 일차결합으로 어떤 공간을 생성할 수 있는지 알아보듯이 일차독립, 일차종속도 동일한 방식으로 조사할 수 있음. (연립일차방정식을 세워 c의 값을 구하는 방식)
-
집합 S={x1, x2, …, xk}⊆Rn에 대해 다음이 성립
- 집합 S가 일차종속일 필요충분조건은 S에 속하는 한 벡터가 나머지 벡터들의 일차결합으로 표시되는 것(당연)
- 집합 S가 영벡터를 포함하면 S는 일차종속
- 영벡터의 계수 c0을 0이 아닌 무엇으로 하든 영벡터에 의해 0이 되므로 0이 아닌 c가 존재하여 일차종속 가능
- 집합 S의 부분집합 S′이 일차종속이면 S도 일차종속이고, S가 일차독립이면 S′도 일차독립
-
Rn에서 m(>n)개의 벡터는 항상 일차종속
- 일차독립이라면 집합 내의 어떠한 벡터든 다른 벡터들의 합으로 나타낼 수 없는 고유한 벡터라는 것이고, 그 한계는 Rn에서 최대 n개
- 따라서 n개를 넘는 벡터를 가진 집합은 반드시 어떤 벡터들의 합으로 다른 벡터를 표현할 수 있음
평면을 표현하려면 최소 2개의 벡터가 필요하듯이 Rn을 표현하기 위해서는 벡터가 최소 n개가 필요하겠지만, 이들이 일차독립이려면 최대 n개의 벡터여야만 하는 것. 이게 중요할까? 싶지만 아무튼 그렇다는 것.
3.5 선형연립방정식의 해집합과 행렬
정리 [행렬의 가역성과 선형연립방정식의 해 사이의 관계]
- n차의 정사각행렬 A가 가역이고 b 가 Rn의 벡터일 때, 연립방정식 Ax=b는 유일한 해 x=A−1b를 갖는다.
- A가 가역이니까 A−1이 존재하고, 반대쪽으로 넘기면 당연히 성립하겠지?
- 동차선형연립방정식은 자명한 해(유일해)를 가지거나, 무수히 많은 해를 갖는 경우 두 가지뿐
- n개의 미지수, m개의 방정식일 때 m<n이라면 자명하지 않은 해를 가짐
정의 [수반동차연립방정식]
- 선형연립방정식 Ax=b에 대하여 Ax=0을 Ax=b의 수반동차연립방정식(associated homogeneous system of linear equations)이라고 한다.
- 그래서 뭐?
- 선형연립방정식의 해집합은 단순히 수반동차연립방정식의 해공간을 단순히 x0만큼 평행이동한 것!
- 여기서 x0를 특수해(particular solution)이라 함
- 이는 선형연립방정식의 해에 r=s=⋯=0을 대입해 구할 수 있음
- 특수해만큼 평행이동 한 것은 어떤 의미일까?
- Ax=0의 해공간 W에 특수해 x0을 더한 평행이동집합으로 생각
- 그렇다면 x0+W는 영벡터를 가지지 않아서 Rn의 부분공간이 아님
- 행렬 A가 n차의 정사각행렬이면, 아래 명제들은 동치(equivalent)
- RREF(A) = In
- A는 기본행렬의 곱으로 표현
- A는 가역
- Ax=0은 유일해 0를 가짐
- Ax=b는 모든 b∈Rn에대해유일해
- A의 열벡터들은 일차독립
- A의 행벡터들은 일차독립
- Ax=0의 해공간의 벡터는 A의 행벡터에 직교
- A(i)⋅x=0이어야하므로 행렬 A의 각각의 행벡터들에 직교(orthogonal)인 벡터들
- 두 벡터 사이 각도가 90°라면, 내적은 0이라는 점과 결이 같음
- Hyperplane(초평면)이란?
- R2에서 xy-평면의 직선은 ax+by=c, 0이 아닌 (x,y) 해집합
- R3에서 xyz-공간의 평면은 ax+by+cz=b, 0이 아닌 (x,y,z) 해집합
- Rn에서 초평면은 a1x+a2x2+⋯+anxn=b, ∃ai=0인 해집합
- 여기서 b=0이면 원점을 지나는 hyperplane
- a⊥={x∈Rn∣a⋅x=0}을 a의 orthogonal complement(직교보공간)
- 아래 그림에서는 마치 3차원 공간 내의 평면처럼 보이지만, 이는 그저 평면을 일반화하여 초'평면'이라고 하기 때문에 이해를 돕기 위해 그려 놓은 것
- 실제로는 4차원 이상의 경우 눈으로 확인할 수 있게 그려지지 않음
3.6 특수행렬들(Special matrices)
- 대각선행렬(diagonal matrix)
- 주대각선성분 이외의 모든 성분이 0인 정사각행렬
-
단위행렬(identity matrix)
- 주대각선성분이 모두 1인 행렬
- In
-
스칼라행렬(scalar matrix)
- 대각선행렬의 특징
- 일반적인 행렬 A의 열에 D에 대응하는 주대각선성분을 곱한 결과와 동일
- 대각선행렬의 거듭제곱은 주대각선성분을 거듭제곱한 대각선행렬과 같음
정의 [대칭행렬과 반대칭행렬]
- 정사각행렬 A가 AT=A를 만족하면 A를 대칭행렬(symmetric matrix), AT=−A를 만족하면 반대칭행렬(skew-symmetric matrix)
- 대각선 기준으로 뒤집었을 때 같은 위치에 있는 것끼리 같다면 대칭행렬, 부호만 반대라면 반대칭행렬이라고 이해하면 된다.
- A가 임의의 정사각행렬이라면 아래를 만족
- A+AT는 대칭행렬
- A−AT는 반대칭행렬
- 따라서, 임의의 정사각행렬은 대칭행렬과 반대칭행렬의 합으로 유일하게 나타낼 수 있음
- 위 두 개를 각각 1/2하여 더하면 A이기 때문
- 삼각행렬
- 하삼각행렬(lower triangular matrix): 주대각선 위의 모든 성분이 0인 정사각행렬
- 상삼각행렬(upper triangular matrix): 주대각선 아래의 모든 성분이 0인 정사각행렬
- A, B가 하삼각행렬일 때 아래를 만족
- AB는 하삼각행렬(lower triangular matrix)
- A가 가역행렬이면 A−1도 하삼각행렬
- 모든 i에 대해 aii=1이면 A−1의 주대각선성분들도 모두 1
- 정사각행렬 A에 대해 Ak=O가 되는 양의 정수 k가 존재하면?
- A는 nilpotent
- (I−A)는 가역행렬
- (I−A)−1=I+A+A2+⋯+Ak−1
- 위 둘 곱하면 I