벡터의 도입

여러 차원의 변수를 한번에 생각하기 위해 벡터라는 개념을 도입한다. 간단히 짚어보자.

🏁 벡터의 정의와 해석

1. 하나의 벡터

• 점(위치) 또는 화살표(길이와 방향)로 해석할 수 있다

2. 두개의 벡터

i) 같음과 다름

길이와 방향이 같다면 같다. 만약 다르다면,

• [점] 두 점의 거리를 생각할 수 있다 → 유클리드 거리

  ${||a - b||}^2 = {||a||}^2 + {||b||}^2 - a\cdot b$

• [화살표] 두 방향의 각도를 생각할 수 있다 → 코사인 거리 = 1 - 코사인 유사도

  $1- cos \theta = 1 - \frac{a\cdot b} {||a||~||b||}$

ii) 종속과 독립

벡터는 선형결합이 가능한데, 이 선형결합의 결과로 각 벡터들 간의 종속과 독립을 판단한다.

• 선형종속
  $\exists~ \textbf{c} ~ s.t. ~ \textbf{w}\cdot \textbf{c} = \textbf{0}$
• 선형독립
  $\forall ~ \textbf{c} ~ s.t. ~ \textbf{w}\cdot \textbf{c} = \textbf{0} → \textbf{c} = \textbf{0}$

🏁 벡터의 분해와 내적의 해석

벡터의 분해

벡터a와 a와 방향이 다른 벡터b가 있을 때, a는 다음과 같이 분해된다.

내적의 정의와 해석

벡터의 내적은 다음과 같은 2개의 식으로 정의된다.

그리고 위 ①로 부터 다음과 같이 해석할 수 있다. PCA를 설명할 때 이 방식의 해석을 자주 사용하게 된다.