1. 벡터

학습목표

• 벡터의 기본 개념과 연산, norm
  두 벡터 사이의 거리와 각도, 그리고 내적 (inner product)에 대해 설명
• 벡터는 딥러닝에서 매우 중요한 선형대수학의 기본 단위가 되고, 앞으로 배울 numpy에서도 많이 사용되는 연산이기 때문에 확실하게 잡고 가야 할 개념
• 벡터 간의 연산을 단순히 숫자 계산으로 끝내기보단, 공간에서 어떤 의미를 가지는지를 이해
• norm이나 내적 같은 개념 또한, 그 자체로 가지는 기하학적인 성질과 이것이 실제 ML에서 어떻게 사용되는지 생각해보면서 공부
  

1. 벡터

• 벡터 : 숫자를 원소로 가지는 리스트(list) 또는 배열(array)
• 세로 : 열 벡터, 가로 : 행 벡터 (코드에서는 보통 행 벡터로 표현)
• 벡터의 차원 : 벡터의 숫자들의 개수
  • T가 붙은 것은 X의 전치행렬
    
    
    

---

• 벡터는 공간에서 한 점으로 원점으로 부터 상대적 위치를 표현
  
  

---

• 벡터는 숫자를 원소로 가지는 리스트(list) 또는 배열(array)
• 벡터끼리 같은 모양을 가지면 성분곱(Hadamard product)을 계산 가능
• 다른 모양일 경우, 산수 불가능
  

---

• 성분곱(Hadamard product)
  
  

---

• 벡터는 공간에서 한 점을 나타냄
• 벡터는 원점으로부터 상대적 위치를 표현
  

---

• 두 벡터의 덧셈은 다른 벡터로부터 상대적 위치이동을 표현
  

---

• 두 벡터의 뺄셈
  

2. 벡터의 노름 (Norm)

• 노름(norm) : 원점에서부터의 거리
  

---

• L1-노름 : 각 성분의 변화량의 절대값을 모두 더함
  

---

• L2-노름 : 피타고라스 정리를 이용해 유클리드 거리를 계산
  
  

---

• 노름의 종류에 따라 기하학적 성질이 달라짐
  

---

• 머신러닝에선 각 성질들이 필요할 때가 있으므로 둘 다 사용
• 기계학습에서 사용되는 목적에 따라 달라짐
  

3. 두 벡터 사이의 거리

• L1, L2-노름을 이용해 두 벡터 사이의 거리를 계산 → 벡터의 뺄셈을 이용
  
  

4. 두 벡터 사이의 각도

θ (세타) : 미지의 각도를 나타낼 때 주로 사용

---

• L2노름에서만 계산 가능!
  

---

• 제2 코사인 법칙에 의해 두 벡터 사이의 각도를 계산
  

5. 두 벡터 내적 (inner product)

• 분자를 쉽게 계산하는 방법이 내적 (inner product)
  

---

• 내적은 np.inner을 이용해 계산
  

---

• 내적은 정사영(orthogonal projection)된 벡터의 길이와 관련
  

---

• Proj(x) 의 길이는 코사인 법칙에 의해 ∥x∥ cos θ 가 됨
  

---

• 내적은 정사영의 길이를 벡터의 길이만큼 조정한 값
  • 내적은 두 벡터의 유사도를 측정하는데 사용가능