노름 (Norm)이란

Moon·2021년 8월 12일

기본개념
노름이란 벡터의 길이의 측정하는 방법(함수)이다. 즉 원점에서 벡터 좌표까지의 거리(혹은 magnitude)라고 한다. 아래는 노름의 범용적인 공식이다.

  • p는 노름의 차수를 의미함. (P가 1이면 L1 Norm,2이면 L2 Norm임)
  • n은 벡터의 원소 수량임
    보시다시피 노름은 각 원소별로 원소 절대값을 p번 제곱한 값의 합을 p 제곱근한 값이다.
    아래에 좀 더 구체적으로 살펴보겠다.

L1 Norm
L1 노름은 p가 1인 노름이다. 공식은 아래와 같다.


L1 노름을 Taxicab Norm 혹은 Manhattan Norm이라고도 한다.
라소(lasso) 정규화(aka L1 Normolization)에 사용되는 패널티 항이다.

L2 Norm
L2 노름은 p가 2인 노름이다. 공식은 아래와 같다. L2 노름은 n차원 좌표평면 (유클리디안 공간)에서의 벡터의 크기를 계산하기 때문에 유클리드 노름(Euclidean Norm)이라고도 한다.

L2 노름은 kNN알고리즘, k-mean알고리즘에서 사용된다.
리지(ridge) 정규화(aka L2 Normolization)에 쓰사용되는 패널티 항이다.

profile
AI 기본개념 정리

0개의 댓글