양의 정부호 행렬(Positive definite matrix)의 의미

양의 정부호 행렬에 대해 잘 이해하기 위해서 다음의 내용에 대해 알아두는 것이 좋다.

• 행렬과 선형변환
• 고윳값과 고유벡터
• 헤시안 행렬의 기하학적 의미

정의

• 영벡터가 아닌 임의의 열벡터 x와 대칭행렬 A에 대해 다음이 성립한다면 A는 양의 정부호(positive definite) 행렬이다.

• 순간 떠오르는 질문들:

• 왜 굳이 앞, 뒤에 $x^T$와 $x$를 곱하는 방식으로 정의할까?
• 한국어 번역은 왜 '정부호'인가? +,-와 관련이 있나?

양의 정부호라는 이름이 갖는 의미

• 양의 정부호는 '부호(sign)'와 관련이 있음.
• 즉, 양의 정부호 행렬은 양수 (positive number)가 작동하는 방식과 유사하게 작동함.
• 임의의 양의 실수 a와 임의의 실수 b를 생각해보자.
  • $a>0$이면 b를 곱했을 때 b의 부호가 그대로 유지됨.
  • 즉, $a>0$이면 b에 곱했을 때 b가 가지고 있던 방향이 뒤집어지지 않음
• 이번엔 임의의 벡터 a,b를 생각해보자. 두 벡터의 내적은 $a^Tb = |a||b|cos(θ)$
• 여기서 θ는 a와 b의 사잇각.
• 사잇각이 +-90도를 넘어가면 내적값은 음수.
• 이번엔 양의 정부호 행렬의 정의를 생각해보자.
  $x^TAx > 0$
• 여기서 괄호를 이용해 다시 묶어주면,
  $x^TAx -> x^T(Ax)$
• 위 식에 대한 해석
  • 영벡터가 아닌 벡터 x에 대해 선형 변환 A를 취해준 다음 원래의 벡터 x와 내적을 취한 결과.
  • 즉, x와 Ax 간의 내적 결과가 양수여야 한다는 말은 선형 변환 후에 각도 변화가 +-90도를 넘지 않아야 한다는 말.
• 양의 정부호와 고윳값의 부호는 연관성이 깊다.
  $Ax = λx$
  $x^TAx = x^Tλx = λ|x|^2$
• 이 때, 정의상 $x^TAx >0$이므로 λ>0이다.
• 즉, A가 대칭행렬이라는 조건 하에 고윳값의 부호가 모두 양수이면 A는 양의 정부호 행렬이다.