❗모든 코드의 앞에는 import numpy as np
를 썼다고 가정하겠습니다.
글 내용 순서는 '프리드버그 선형대수학[5판]'을 참고했습니다.
벡터
머신러닝에서 벡터는 중요한 개념이다. 벡터는 숫자의 배열로, 데이터를 나타내는 데 사용된다. 다차원 공간에서의 위치나 방향을 나타내는데 유용하며, 머신러닝에서 데이터를 표현하고 처리하는 데 다양한 방식으로 활용된다. 예를 들어, 이미지의 경우 픽셀 값의 배열이 특성 벡터가 될 수 있고, 자연어 처리에서는 단어의 임베딩 벡터가 특성 벡터가 될 수 있다. 또한 모델에서 학습되는 매개변수로도 사용된다. 모델은 입력 벡터와 가중치를 곱하고 편향을 더하여 예측을 수행할 때 쓰인다.
이와 같이, 벡터는 머신러닝에서 데이터를 표현하고 분석하는 데 핵심적인 역할을 한다. 데이터의 형태나 모델링 기법에 따라 다양하게 활용된다.
🔔벡터공간(vector space)
우선 벡터의 대수적 구조를 설명하기 위해 벡터공간을 정의하겠다.
체 F에서의 벡터공간 V는
1. 덧셈의 교환법칙이 성립한다.
모든 x,y∈ V에 대해 x+y=y+x
2. 덧셈의 결합법칙이 성립한다.
모든 x,y,z∈ V에 대해 (x+y)+z=x+(y+z)
3. 덧셈의 항등원 존재
모든 x∈V에 대하여 x+0=x인 0∈V이 존재
4. 덧셈의 역원 존재
각 x∈V에 대하여 x+y=0인 y∈V이 존재
5. 각 x∈V에 대하여 1x=x이다.
6. 모든 a,b∈F와 모든 x∈V에 대하여 (ab)x=a(bx)이다.
7. 모든 a∈F와 모든 x,y∈V에 대하여 a(x+y)=ax+ay이다.
8. 모든 a,b∈F와 모든 x∈V에 대하여 (a+b)x=ax+bx이다.
체 F에서 성분을 가져온 모든 n순서쌍의 집합을 Fn이라 표기할 때
R3은 벡터공간 정의에 만족하기 때문에 합의 교환법칙이나 스칼라 곱끼리 같아야 한다.
부분공간(subspace)
F-벡터공간 V의 부분집합 W가
- 모든 x∈W,y∈W에 대하여 x+y∈W, 즉 덧셈에 닫혀있고
- 모든 c∈F와 모든 x∈W에 대하여 cx∈W, 즉 스칼라 곱에 닫혀있고
- 0∈W
- W에 속한 모든 벡터의 덧셈에 대한 역벡터는 W의 원소이면
W는 V의 부분공간이라 정의한다.
일차결합 (linear combination)
벡터공간 V의 공집합이 아닌 부분집합 S가 있다. 유한개의 벡터 u1,u2,...,un∈S와 스칼라 a1,a2,...,an에 대하여 다음을 만족하는 벡터 v∈V는 S의 일차결합이라 한다.
v=a1u1+a2u2...+anun
이때, v는 벡터 u1,u2,...,un의 일차결합이고, a1,a2,...,an은 이 일차결합의 계수이다.
🔔생성공간(span)
벡터공간 V의 공집합이 아닌 부분집합 S를 생각하자. S의 생성공간은 S의 벡터를 사용하여 만든 모든 일차결합의 집합이며 span(S)라 표기한다. 이때, span(∅)={0}이다.
벡터공간 V의 부분집합 S에 대하여 span(S)=V이면 'S는 V를 생성한다'라고 표현한다.

일차독립
일차종속 (linearly dependent)
벡터공간 V의 부분집합 S에 대하여 a1u1+a2u2...+anun=0을 만족하는 유한개의 서로 다른 벡터 u1,u2,...,un∈S와 적어도 하나는 0이 아닌 스칼라 a1,a2,...,an이 존재하면 집합 S는 일차종속이다. S의 벡터 또한 일차종속이다.
🔔일차독립 (linearly independent)
벡터공간 V의 부분집합 S가 일차종속이 아니면 일차독립이다. S의 벡터 또한 일차독립이다.

🔔기저 (basis)
기저는 벡터 공간 내에서 특정 공간을 생성하는데 필요한 선형 독립인 최소한의 벡터의 집합이다.
표준기저 (standard basis)
벡터공간 Fn에 대하여
e1=(1,0,...,0),e2=(0,1,...,0),...,en=(0,0,...,1) 일 때,
집합 e1,e2,...,en은 Fn의 표준기저라 부른다
유한차원
V의 기저가 n개의 벡터로 이루어일 때
dim(V)=n 즉 벡터공간 V는 n차이다.
