[Linear algebra] 내적공간 (1)
이번 포스팅에서는, 선형대수의 다른 큰 줄기가 되는 파트로, 내적 연산이 주어지는 내적공간에 대해 알아볼 것이다. 내적공간이 되려면 vector space 위에서 마치 vector space 가 될 조건을 공부했던 것처럼 비슷한 조건이 주어지는데, 이러한 조건과 내적공간이 주어졌을 때의 성질, 예시들에 대해 몇 차례의 포스팅을 거쳐 알아보고자 한다.
1. Inner product
우선 내적공간이란 무엇인지 알기 위해 내적에 대한 정의 자체가 필요하다. V를 vector space over F (체 위에서의 vector space 이며, 이때 F는 실수체와 복소수체까지만을 의미한다고 하자) 라고 할 때, inner product on V 는 V X V -> F 로 보내는 함수이다. 즉, 내적이란 V의 원소 <x,y> 를 가져와서 이를 F의 원소로 보내는 함수라고 보는 것이 적절하다.
이때, <x,y> 으로 정의된 내적 연산은 다음을 만족해야 한다.
- 앞쪽의 덧셈을 쪼개 쓸 수 있고, 상수배는 밖으로 나올 수 있으며, conjugate 을 취한다는 것은 순서를 바꾼다는 것과 같고 (만약 x, y 실수일 경우 conjugate 을 취해도 그대로이므로 <x,y> = <y,x> 이다.), 만약 x가 0이 아니라면 <x,x> > 0 이어야 한다.
- 이러한 연산을 만족하는 vector space 위의 함수를 inner products 라 하는 것.
예시를 보자.
-
x와 y vector 을 이루는 각 성분끼리 곱한 것의 합은, 많이 이용하는 내적의 정의로, standard inner product 라 부른다. 그러나 이 역시 위의 조건들을 만족하는 많은 내적 중 하나의 정의임을 기억하자.
-
위의 조건을 만족하기 위해선, V가 실수체 위가 아닌 복소수체로 정의 되었을 때는 2. 의 정의를 다르는 게 바람직하고, 이 역시 standard inner product 에 속한다.
- inner product 는 3과 같이 조금 다르게 정의할 수도 있다. 그저 실수가 양수인 범위에서 <x,y> = r<x,y> 를 해주는 것도, 위 조건을 만족하므로 inner product on V라 할 수 있다.
아래는 연속함수 공간에서 서로 다른 내적의 정의 두 가지이다.
<f,g> 를 integral 0부터 1까지 f(t)g(t)의 적분으로 정의하더라도, 덧셈으로 쪼개쓰고, 상수배를 꺼내는 것이 가능하고, (3), (4) 조건도 써놓았듯이 만족하므로, inner product on C([0,1]) 이다.
마찬가지로 g(t)'에는 conjugate 을 취한 것에 f(t)g(t)' 의 적분도 inner product 이다.
다음으론, V = M_mxn(F) 인 행렬 위에서의 내적을 살펴볼 것이며, 이는 Frobenius inner product (프로베니우스 내적) 이라 불린다.
- 프로베니우스 내적의 정의는 tr(B^*A) 로 한다.
- 는 conjugate transpose (adjoint) 로, 행렬에 대해 transpose 를 취하고 conjugate 을 각 성분에 취해줘서 얻은 새로운 행렬을 말한다.
- 아래 주어진 증명에 따라, 이 역시 주어진 행렬 위에서 덧셈 쪼개쓰기, conjugate 취하고, 0보다 커진다 등 inner product 가 된다.
2. Inner product space and Norm
inner product 가 주어진 Vector space over F 공간을 inner product space 라 한다.
- inner product space V를 정의역을 제한하여 W로 restriction 해도 그대로 inner product space 임이 유지된다.
Inner product space 는 다음의 조건들을 만족한다. 위에서 정의한 내적 연산들로 모두 증명할 수 있는 내용들이다. 아래의 증명과 함께 보자.
(이에 대한 증명)
inner product space 가 있다면, 그 공간에는 norm (노름) or length (벡터의 길이) 가 함께 주어지는데, 이 norm 에 대한 정의를 보자.
- 노름의 정의에는 inner product 가 사용된다. ||x|| = square root <x,x> 가 벡터의 길이이자, 노름이 된다.
- 만약 V가 F^n 으로 주어졌다면, 벡터의 각 성분들을 제곱한 것을 더한 후 square root 를 취해주면 된다.
Inner product space 가 주어졌다는 것은, 다시 말해 벡터를 geometric 하게 해석할 수 있는 length 와 angle 에 대한 정보가 주어졌다는 것이다. 여기서의 length 는 위에서 살펴본 norm 의 정의를 따르게 된다. 이 정보는, 그냥 vector space 가 주어졌다, 라는 조건만 있다면 알 수 없는 것이며, inner product 연산 자체가 norm 정의에 들어가기 때문에, inner product 가 주어질 경우에 알 수 있는 것들이다.
Inner product space 에서는 다음의 equality 혹은 inequality 를 만족한다.
- 이에 대한 각 증명은 다음과 같다.
(1, 2 에 대한 증명)
(3, 4에 대한 증명)
- 특히 triangle inequality 는 자주 쓰이기도 하고.. 증명의 경우 제곱하여 같은 명제인 것이 성립하는것을 보임으로써 증명하게 되는데, 이 테크닉을 잘 알아두자.
3. Orthogonal
inner product 가 주어지면, 벡터에 대한 1. 길이 정보 와 함께 2. angle 에 대한 정보도 함께 주어짐을 기억하자고 하였다. 1. 길이 정보의 경우 norm ||x|| 로 정의함을 알았는데, 그렇다면 angle 각에 대한 정보는 어떻게 알 수 있을까? 여기서는 x, y의 두 벡터가 주어질 때 두 벡터가 직교, orthogonal 하는 특수한 경우에 대해 다루며, 직관적으로 직교하는 두 벡터에 대해 내적 <x,y> = 0 의 경우에 대해 살펴본다.
inner product space 에서 벡터 x, y가 있을 때,
- 만약 이 벡터의 내적 <x,y>=0 일 때 두 벡터를 orthogonal(직교) 한다고 한다.
- V의 부분집합 S의 서로 다른 두 벡터 2개가 직교한다면, orthogonal 하다.
- (3, 4) 만약 V의 부분집합 S가 서로 직교하고 크기가 1인 벡터로만 이루어져 있다면, 이를 orthonormal 하다라 한다.
Remark 1. 어느 집합 S가 orthonormal 하다는 것과 같은 말은, 집합 S에서 임의의 두 벡터를 잡아 내적 연산한 것이 크로네커델타 (i=j 인 경우 1이고, i/=j인 경우 0) 일 때를 말한다.
Remark 2. normalize 하는 방법은, nonzero vector x에 대해 x를 x의 크기로 나눠주는 것이다.
잠깐 orthonormal set 에 대한 예시를 보자.
Orthonormal 하려면, 1. 서로 다른 두 벡터의 내적은 0, 2. 각 벡터의 크기가 1이면 된다.
- 두 벡터의 내적은 모두 0이고, (orthogonal)
- normalize 크기로 나눠줌으로써 orthonormal set 을 이룰 수 있게 된다.
이는 Continuous functions [0, 2pi] 의 집합 H에 대해서도 orthonormal 하도록 내적을 정의할 수 있다. 다음을 보자.
- <f,g> 내적 정의에 따르면, 집합 S를 fn = e^int, n이 정수일 때를 고려하면 fn 함수의 모임을 orthonormal set 으로 할 수 있다.
- <f,g> 내적 정의는 f는 그대로, g는 conjugate 을 취해 0부터 2pi 까지 적분한 것을 2pi 로 나눠주게 된다.
이에 대한 확인은 다음과 같다. f_n 과 f_m 에 대한 내적을 정의에 따라 전개한 후, n = m 과 같을 때 1, n /= m 일 때 0이 됨을 어렵지 않게 확인할 수 있다.
문제 1.
다음의 문제 2가지를 보자.
- V가 inner product space 로 주어졌을 때, 아래의 명제가 성립함을 보이면 된다.
- Pythagorean theorem
- x와 y가 orthogonal 함을 이용하면, 내적의 정의를 그대로 풀어헤치고,
- <x,y> 와 <y,x> 가 0이 되면서 자연스럽게 증명할 수 있다.
- Parallelogram law
- 이 직교 조건이 없는 보다 일반적인 경우에는, 각각의 제곱한 것의 두 배가 각각을 더한 것의 제곱, 각각의 차의 제곱의 합이 된다.
- 직관적으로는 parallelogram 이 주어졌을 때 가로의 제곱, 세로의 제곱을 두 배 해줘야 대각선 제곱의 합과 같아진다는 것.
다시 한 번 정리하자면, product space 가 존재한다는 것은 normed space (길이) 와 metric space (거리) 에 대한 연산도 정의할 수 있다는 것인데, 반대로 normed space 가 inner product space 가 되고, metric space 가 normed space 가 되려면 일정한 조건이 추가로 필요하다. 이때 parallelogram law는 normed space 가 inner product space가 될 조건으로 후에 이어질 포스팅에서 다시 한 번 살펴볼 것이니, 눈여겨 봐 두도록 하자.
