이번 포스트에서는 inner product space에 대해 알아보겠습니다.
1) Inner product space
(1) Inner product space
Vector space에서 addition과 scalar multiple 못지 않게 중요한 연산 중 하나가 inner product입니다. 이전 포스트에서 사용한 R n \mathbb R^n R n
x ⋅ y = x T y \boldsymbol{x}\cdot\boldsymbol{y} = \boldsymbol{x}^T\boldsymbol{y} x ⋅ y = x T y 를 이용하여 length(norm), distance, orthogonality를 정의할 수 있었습니다. 하지만 R n \mathbb R^n R n
Definition : Inner product
An inner product on a vector space V V V u , v \boldsymbol{u}, \boldsymbol{v} u , v V V V
⟨ u , v ⟩ \langle\boldsymbol{u}, \boldsymbol{v}\rangle ⟨ u , v ⟩ and satisfies the following axioms, for all u , v , w \boldsymbol{u}, \boldsymbol{v}, \boldsymbol{w} u , v , w V V V c c c
⟨ u , v ⟩ = ⟨ v , u ⟩ \langle\boldsymbol{u}, \boldsymbol{v}\rangle \ =\ \langle\boldsymbol{v}, \boldsymbol{u}\rangle ⟨ u , v ⟩ = ⟨ v , u ⟩ ⟨ u + v , w ⟩ = ⟨ u , w ⟩ + ⟨ v , w ⟩ \langle\boldsymbol{u+v}, \boldsymbol{w}\rangle =\langle\boldsymbol{u}, \boldsymbol{w}\rangle + \langle\boldsymbol{v}, \boldsymbol{w}\rangle ⟨ u + v , w ⟩ = ⟨ u , w ⟩ + ⟨ v , w ⟩ $\langle c\boldsymbol{u}, \boldsymbol{v}\rangle = c\langle \boldsymbol{u}, \boldsymbol{v}\rangle $
⟨ u , u ⟩ ≥ 0 \langle\boldsymbol{u}, \boldsymbol{u} \rangle\geq 0 ⟨ u , u ⟩ ≥ 0 ⟨ u , u ⟩ = 0 \langle \boldsymbol{u}, \boldsymbol{u}\rangle=0 ⟨ u , u ⟩ = 0 u = 0 \boldsymbol{u}=0 u = 0
A vector space with an inner product is called an inner prodcut space
Vector space V V V
example
R 2 \mathbb R^2 R 2 u = ( u 1 , u 2 ) , v = ( v 1 , v 2 ) , w = ( w 1 , w 2 ) \boldsymbol{u} = (u_1, u_2), \ \boldsymbol{v} = (v_1, v_2), \ \boldsymbol{w}=(w_1, w_2) u = ( u 1 , u 2 ) , v = ( v 1 , v 2 ) , w = ( w 1 , w 2 )
⟨ u , v ⟩ = a 1 u 1 v 1 + a 2 u 2 v 2 , a 1 , a 2 > 0 \langle\boldsymbol{u}, \boldsymbol{v} \rangle = a_1u_1v_1 + a_2u_2v_2, \ \ \ a_1, a_2>0 ⟨ u , v ⟩ = a 1 u 1 v 1 + a 2 u 2 v 2 , a 1 , a 2 > 0 이라고 정의하면, 해당 연산은 inner product 성질을 만족합니다. 해당 연산이 inner product가 되려면 4가지 조건을 만족하는지 확인해보면 됩니다.
첫 번째 조건을 만족하는지 확인해보면
⟨ u , v ⟩ = a 1 u 1 v 1 + a 2 u 2 v 2 ⟨ v , u ⟩ = a 1 v 1 u 1 + a 2 v 2 u 2 ⟨ u , v ⟩ = ⟨ v , u ⟩ \langle \boldsymbol{u}, \boldsymbol{v}\rangle = a_1u_1v_1+a_2u_2v_2 \\ \langle \boldsymbol{v}, \boldsymbol{u}\rangle = a_1v_1u_1+a_2v_2u_2 \\ \langle\boldsymbol{u}, \boldsymbol{v}\rangle = \langle \boldsymbol{v}, \boldsymbol{u} \rangle ⟨ u , v ⟩ = a 1 u 1 v 1 + a 2 u 2 v 2 ⟨ v , u ⟩ = a 1 v 1 u 1 + a 2 v 2 u 2 ⟨ u , v ⟩ = ⟨ v , u ⟩ 임을 알 수 있습니다.
두 번째 조건을 화인하면
⟨ u + v , w ⟩ = a 1 ( u 1 + v 1 ) w 1 + a 2 ( u 2 + v 2 ) w 2 ⟨ u , w ⟩ + ⟨ v , w ⟩ = a 1 u 1 w 1 + a 2 u 2 w 2 + a 1 v 1 w 1 + a 2 v 2 w 2 = a 1 ( u 1 + v 1 ) w 1 + a 2 ( u 2 + v 2 ) w 2 ⟨ u + v , w ⟩ = ⟨ u , w ⟩ + ⟨ v , w ⟩ \langle \boldsymbol{u}+\boldsymbol{v}, \boldsymbol{w}\rangle = a_1(u_1+v_1)w_1 + a_2(u_2+v_2)w_2 \\ \langle \boldsymbol{u}, \boldsymbol{w}\rangle + \langle \boldsymbol{v}, \boldsymbol{w}\rangle = a_1u_1w_1 + a_2u_2w_2 + a_1v_1w_1 + a_2v_2w_2 = a_1(u_1+v_1)w_1 + a_2(u_2+v_2)w_2 \\ \langle \boldsymbol{u}+\boldsymbol{v},\boldsymbol{w}\rangle = \langle \boldsymbol{u}, \boldsymbol{w}\rangle + \langle\boldsymbol{v}, \boldsymbol{w}\rangle ⟨ u + v , w ⟩ = a 1 ( u 1 + v 1 ) w 1 + a 2 ( u 2 + v 2 ) w 2 ⟨ u , w ⟩ + ⟨ v , w ⟩ = a 1 u 1 w 1 + a 2 u 2 w 2 + a 1 v 1 w 1 + a 2 v 2 w 2 = a 1 ( u 1 + v 1 ) w 1 + a 2 ( u 2 + v 2 ) w 2 ⟨ u + v , w ⟩ = ⟨ u , w ⟩ + ⟨ v , w ⟩ 이므로 두 번째 조건도 만족합니다.
세 번째로,
⟨ c u , v ⟩ = a 1 c u 1 v 1 + a 2 c u 2 v 2 = c ( a 1 u 1 v 1 + a 2 u 2 v 2 ) = c ⟨ u , v ⟩ \langle c\boldsymbol{u}, \boldsymbol{v} \rangle = a_1cu_1v_1 + a_2cu_2v_2 = c(a_1u_1v_1+a_2u_2v_2)=c\langle \boldsymbol{u}, \boldsymbol{v} \rangle ⟨ c u , v ⟩ = a 1 c u 1 v 1 + a 2 c u 2 v 2 = c ( a 1 u 1 v 1 + a 2 u 2 v 2 ) = c ⟨ u , v ⟩ 을 만족합니다.
마지막으로
⟨ u , u ⟩ = a 1 u 1 2 + a 2 u 2 2 ≥ 0 \langle\boldsymbol{u}, \boldsymbol{u}\rangle = a_1u_1^2 + a_2u_2^2 \geq 0 ⟨ u , u ⟩ = a 1 u 1 2 + a 2 u 2 2 ≥ 0 을 만족합니다. (a 1 , a 2 > 0 a_1, a_2>0 a 1 , a 2 > 0 ⟨ u , u ⟩ = 0 \langle \boldsymbol{u}, \boldsymbol{u}\rangle=0 ⟨ u , u ⟩ = 0 u = 0 \boldsymbol{u}=0 u = 0
따라서, 해당 연산은 inner product 조건을 만족합니다.
example
Let P n \mathbb P_n P n
P n = { p ( t ) ∣ p ( t ) = a 0 + a 1 t + ⋯ + a n t n , a 1 , . . . , a n ∈ R } \mathbb P_n = \{p(t) \mid p(t) = a_0+a_1t+\cdots + a_nt^n, \ \ a_1, ..., a_n\in\mathbb R\} P n = { p ( t ) ∣ p ( t ) = a 0 + a 1 t + ⋯ + a n t n , a 1 , . . . , a n ∈ R } 즉 order(degree, 차수)가 n n n P n \mathbb P_n P n
a 0 = ⋯ = a n = 0 a_0=\cdots=a_n=0 a 0 = ⋯ = a n = 0 P n \mathbb P_n P n p ( t ) , q ( t ) ∈ P n p(t), q(t) \in \mathbb P_n p ( t ) , q ( t ) ∈ P n p ( t ) , q ( t ) p(t), q(t) p ( t ) , q ( t ) n n n p ( t ) + q ( t ) ∈ P n p(t)+q(t) \in\mathbb P_n p ( t ) + q ( t ) ∈ P n p ( t ) ∈ P n p(t)\in \mathbb P_n p ( t ) ∈ P n c ∈ R c\in \mathbb R c ∈ R c p ( t ) cp(t) c p ( t ) n n n c p ( t ) ∈ P n cp(t)\in\mathbb P_n c p ( t ) ∈ P n
따라서 P n \mathbb P_n P n
다음으로 inner product 연산을 다음과 같이 정의합니다.
Let t 0 , . . . , t n t_0, ..., t_n t 0 , . . . , t n p p p q q q P n \mathbb P_n P n
⟨ p , q ⟩ = p ( t 0 ) q ( t 0 ) + p ( t 1 ) q ( t 1 ) + ⋯ + p ( t n ) q ( t n ) \langle p, q \rangle = p(t_0)q(t_0)+p(t_1)q(t_1)+\cdots+p(t_n)q(t_n) ⟨ p , q ⟩ = p ( t 0 ) q ( t 0 ) + p ( t 1 ) q ( t 1 ) + ⋯ + p ( t n ) q ( t n ) 이 때 해당 연산은 inner product 조건을 만족합니다.
먼저,
⟨ p , q ⟩ = p ( t 0 ) q ( t 0 ) + ⋯ + p ( t n ) q ( t n ) = q ( t 0 ) p ( t 0 ) + ⋯ + q ( t n ) p ( t n ) = ⟨ q , p ⟩ \langle p, q\rangle = p(t_0)q(t_0)+\cdots+p(t_n)q(t_n) = q(t_0)p(t_0)+\cdots+q(t_n)p(t_n)=\langle q, p \rangle ⟨ p , q ⟩ = p ( t 0 ) q ( t 0 ) + ⋯ + p ( t n ) q ( t n ) = q ( t 0 ) p ( t 0 ) + ⋯ + q ( t n ) p ( t n ) = ⟨ q , p ⟩ 을 만족합니다. 두 번째로 r ∈ P n r\in P_n r ∈ P n
⟨ p + q , r ⟩ = ( p ( t 0 ) + q ( t 0 ) ) r ( t 0 ) + ⋯ ( p ( t n ) + q ( t q ) ) r ( t n ) = ( p ( t 0 ) r ( t 0 ) + ⋯ p ( t n ) r ( t n ) ) + ( q ( t 0 ) r ( t 0 ) + ⋯ + q ( t n ) r ( t n ) ) = ⟨ p , r ⟩ + ⟨ q , r ⟩ \begin{aligned} \langle p+q, r\rangle &= (p(t_0)+q(t_0))r(t_0)+\cdots(p(t_n)+q(t_q))r(t_n) \\ &=(p(t_0)r(t_0)+\cdots p(t_n)r(t_n))+(q(t_0)r(t_0)+\cdots + q(t_n)r(t_n)) \\ &=\langle p, r \rangle + \langle q, r \rangle \end{aligned} ⟨ p + q , r ⟩ = ( p ( t 0 ) + q ( t 0 ) ) r ( t 0 ) + ⋯ ( p ( t n ) + q ( t q ) ) r ( t n ) = ( p ( t 0 ) r ( t 0 ) + ⋯ p ( t n ) r ( t n ) ) + ( q ( t 0 ) r ( t 0 ) + ⋯ + q ( t n ) r ( t n ) ) = ⟨ p , r ⟩ + ⟨ q , r ⟩ 를 만족합니다. 세 번째로 c ∈ R c \in \mathbb R c ∈ R
⟨ c p , q ⟩ = c p ( t 0 ) q ( t 0 ) + ⋯ + c p ( t n ) q ( t n ) = c ( p ( t 0 ) q ( t 0 ) + ⋯ p ( t n ) q ( t n ) ) = c ⟨ p , q ⟩ \langle cp, q \rangle = cp(t_0)q(t_0)+\cdots + cp(t_n)q(t_n) = c(p(t_0)q(t_0)+\cdots p(t_n)q(t_n)) = c\langle p, q \rangle ⟨ c p , q ⟩ = c p ( t 0 ) q ( t 0 ) + ⋯ + c p ( t n ) q ( t n ) = c ( p ( t 0 ) q ( t 0 ) + ⋯ p ( t n ) q ( t n ) ) = c ⟨ p , q ⟩ 를 만족합니다. 마지막으로
⟨ p , p ⟩ = { p ( t 0 ) } 2 + ⋯ { p ( t n ) } 2 ≥ 0 \langle p, p \rangle = \{p(t_0)\}^2 +\cdots \{p(t_n)\}^2 \geq 0 ⟨ p , p ⟩ = { p ( t 0 ) } 2 + ⋯ { p ( t n ) } 2 ≥ 0 을 만족하고,
{ p ( t 0 ) } 2 + ⋯ { p ( t n ) } 2 = 0 \{p(t_0)\}^2 +\cdots \{p(t_n)\}^2 =0 { p ( t 0 ) } 2 + ⋯ { p ( t n ) } 2 = 0 을 만족하려면
p ( t 0 ) = ⋯ = p ( t n ) = 0 p(t_0) = \cdots = p(t_n) =0 p ( t 0 ) = ⋯ = p ( t n ) = 0 가 성립해야 합니다. 현재 p ( t ) p(t) p ( t ) n n n p ( t ) = 0 p(t)=0 p ( t ) = 0 n + 1 n+1 n + 1 p ( t ) p(t) p ( t )
밖에 없습니다. 따라서 inner product가 되기 위한 4개의 조건을 모두 만족하므로 해당 연산은 P n \mathbb P_n P n
(2) Lengths, Distances, Orthogonality
임의의 vector space에서 inner product를 정의를 하였으니, length(norm), distance, orthogonality를 정의할 수 있습니다.
Definition
Let V V V ⟨ u , v ⟩ \langle\boldsymbol{u}, \boldsymbol{v}\rangle ⟨ u , v ⟩ u , v ∈ V \boldsymbol{u}, \boldsymbol{v}\in V u , v ∈ V u \boldsymbol{u} u
∥ u ∥ = ⟨ u , u ⟩ \|\boldsymbol{u}\| = \sqrt{\langle \boldsymbol{u}, \boldsymbol{u}\rangle} ∥ u ∥ = ⟨ u , u ⟩ The distance between u \boldsymbol{u} u v \boldsymbol{v} v
d i s t ( u , v ) = ∥ u − v ∥ dist(\boldsymbol{u}, \boldsymbol{v}) = \|\boldsymbol{u}-\boldsymbol{v}\| d i s t ( u , v ) = ∥ u − v ∥ The vector u , v \boldsymbol{u}, \boldsymbol{v} u , v
⟨ u , v ⟩ = 0 \langle \boldsymbol{u}, \boldsymbol{v} \rangle = 0 ⟨ u , v ⟩ = 0 다음과 같이 length, distance, orthogonality를 정의하였기 때문에, 이전 포스트에서 배운 orthogonal set, orthogonal basis, orthogonal projection, Gram-Schmidt process, best approximation 모두 똑같은 방법으로 정의할 수 있습니다. 달라지는 것은 vector space와 해당 vector space에서의 inner product입니다.
(3) Two Inequalities
Inner product space에서 성립하는 두 가지의 부등식이 있습니다. Cauchy-Schwarz inequality와 triangle inequality를 알아보도록 하겠습니다.
Theorem : The Cauchy-Schwarz Inequality
For all u , v \boldsymbol{u}, \boldsymbol{v} u , v V V V
∣ ⟨ u , v ⟩ ∣ ≤ ∥ u ∥ ∥ v ∥ \begin{vmatrix}\langle\boldsymbol{u}, \boldsymbol{v} \rangle\end{vmatrix} \leq \|\boldsymbol{u}\|\|\boldsymbol{v}\| ∣ ∣ ∣ ⟨ u , v ⟩ ∣ ∣ ∣ ≤ ∥ u ∥ ∥ v ∥ 두 벡터의 inner product값은 두 벡터의 length의 곱보다 작거나 같습니다.
Theorem : The Triangle Inequality
For all u , v \boldsymbol{u}, \boldsymbol{v} u , v V V V
∥ u + v ∥ ≤ ∥ u ∥ + ∥ v ∥ \|\boldsymbol{u}+\boldsymbol{v}\| \leq \|\boldsymbol{u}\| + \|\boldsymbol{v}\| ∥ u + v ∥ ≤ ∥ u ∥ + ∥ v ∥ 두 벡터의 합의 length는 각각의 벡터의 length의 합보다 작거나 같습니다.
지금까지 inner product space에 대해 알아보았습니다. 다음 포스트에서는 orthogonal projection의 응용인 linear regression과 weighted least squares에 대해 알아보겠습니다. 질문이나 오류 있으면 댓글 남겨주세요! 감사합니다!
Appendix : Proof of theorem
Theorem : The Cauchy-Schwarz Inequality
For all u , v \boldsymbol{u}, \boldsymbol{v} u , v V V V
∣ ⟨ u , v ⟩ ∣ ≤ ∥ u ∥ ∥ v ∥ \begin{vmatrix}\langle\boldsymbol{u}, \boldsymbol{v} \rangle\end{vmatrix} \leq \|\boldsymbol{u}\|\|\boldsymbol{v}\| ∣ ∣ ∣ ⟨ u , v ⟩ ∣ ∣ ∣ ≤ ∥ u ∥ ∥ v ∥ scalar c c c c ∈ R c \in \mathbb R c ∈ R
∥ u + c v ∥ 2 = ⟨ u + c v , u + c v ⟩ = ∥ u ∥ 2 + 2 c ⟨ u , v ⟩ + c 2 ∥ v ∥ ≥ 0 \|\boldsymbol{u}+c\boldsymbol{v}\|^2=\langle \boldsymbol{u}+c\boldsymbol{v}, \boldsymbol{u}+c\boldsymbol{v}\rangle = \|\boldsymbol{u}\|^2 + 2c\langle\boldsymbol{u}, \boldsymbol{v} \rangle + c^2\|\boldsymbol{v}\| \geq 0 ∥ u + c v ∥ 2 = ⟨ u + c v , u + c v ⟩ = ∥ u ∥ 2 + 2 c ⟨ u , v ⟩ + c 2 ∥ v ∥ ≥ 0 을 만족합니다. 이는 임의의 scalar c c c c c c
( ⟨ u , v ⟩ ) 2 − ∥ u ∥ 2 ∥ v ∥ 2 ≤ 0 (\langle \boldsymbol{u}, \boldsymbol{v} \rangle)^2-\|\boldsymbol{u}\|^2\|\boldsymbol{v}\|^2 \leq 0 ( ⟨ u , v ⟩ ) 2 − ∥ u ∥ 2 ∥ v ∥ 2 ≤ 0 를 만족해야 합니다. 이를 정리하면
( ⟨ u , v ⟩ ) 2 ≤ ∥ u ∥ 2 ∥ v ∥ 2 = ( ∥ u ∥ ∥ v ∥ ) 2 (\langle \boldsymbol{u}, \boldsymbol{v} \rangle)^2 \leq \|\boldsymbol{u}\|^2\|\boldsymbol{v}\|^2 = (\|\boldsymbol u \| \|\boldsymbol v \|)^2 ( ⟨ u , v ⟩ ) 2 ≤ ∥ u ∥ 2 ∥ v ∥ 2 = ( ∥ u ∥ ∥ v ∥ ) 2 가 되어
∣ ⟨ u , v ⟩ ∣ ≤ ∥ u ∥ ∥ v ∥ \begin{vmatrix}\langle\boldsymbol{u}, \boldsymbol{v} \rangle\end{vmatrix} \leq \|\boldsymbol{u}\|\|\boldsymbol{v}\| ∣ ∣ ∣ ⟨ u , v ⟩ ∣ ∣ ∣ ≤ ∥ u ∥ ∥ v ∥ 를 만족합니다.
u = 0 \boldsymbol{u}=0 u = 0 0 0 0 u ≠ 0 \boldsymbol{u}\neq 0 u = 0 W W W
W = S p a n { u } W =Span\{\boldsymbol{u}\} W = S p a n { u } 를 생각해봅시다. 이 때,
p r o j W v = ⟨ u , v ⟩ ⟨ u , u ⟩ u proj_{W}\boldsymbol{v} = \frac{\langle\boldsymbol{u}, \boldsymbol{v} \rangle}{\langle\boldsymbol{u}, \boldsymbol{u} \rangle}\boldsymbol{u} p r o j W v = ⟨ u , u ⟩ ⟨ u , v ⟩ u 인 것을 알 수 있습니다. 해당 projection vector의 length를 구해보면
∥ p r o j W v ∥ = ∣ ∣ ⟨ u , v ⟩ ⟨ u , u ⟩ u ∣ ∣ = ∣ ⟨ u , v ⟩ ⟨ u , u ⟩ ∣ ∥ u ∥ = ∣ ⟨ u , v ⟩ ∣ ∥ u ∥ \|proj_W\boldsymbol{v}\| = \left|\left|\frac{\langle\boldsymbol{u}, \boldsymbol{v} \rangle}{\langle \boldsymbol{u}, \boldsymbol{u} \rangle}\boldsymbol{u}\right|\right| = \left|\frac{\langle\boldsymbol{u}, \boldsymbol{v} \rangle}{\langle \boldsymbol{u}, \boldsymbol{u} \rangle}\right|\|\boldsymbol{u}\| = \frac{\left|\langle \boldsymbol{u}, \boldsymbol{v}\rangle\right|}{\|\boldsymbol{u}\|} ∥ p r o j W v ∥ = ∣ ∣ ∣ ∣ ∣ ∣ ∣ ∣ ∣ ∣ ⟨ u , u ⟩ ⟨ u , v ⟩ u ∣ ∣ ∣ ∣ ∣ ∣ ∣ ∣ ∣ ∣ = ∣ ∣ ∣ ∣ ∣ ⟨ u , u ⟩ ⟨ u , v ⟩ ∣ ∣ ∣ ∣ ∣ ∥ u ∥ = ∥ u ∥ ∣ ⟨ u , v ⟩ ∣ 입니다.
∥ p r o j W v ∥ ≤ ∥ v ∥ \|proj_W\boldsymbol{v}\| \leq \|\boldsymbol v\| ∥ p r o j W v ∥ ≤ ∥ v ∥ 이므로
∣ ⟨ u , v ⟩ ∣ ≤ ∥ u ∥ ∥ v ∥ \begin{vmatrix}\langle\boldsymbol{u}, \boldsymbol{v} \rangle\end{vmatrix} \leq \|\boldsymbol{u}\|\|\boldsymbol{v}\| ∣ ∣ ∣ ⟨ u , v ⟩ ∣ ∣ ∣ ≤ ∥ u ∥ ∥ v ∥ 가 성립합니다.
Theorem : The Triangle Inequality
For all u , v \boldsymbol{u}, \boldsymbol{v} u , v V V V
∥ u + v ∥ ≤ ∥ u ∥ + ∥ v ∥ \|\boldsymbol{u}+\boldsymbol{v}\| \leq \|\boldsymbol{u}\| + \|\boldsymbol{v}\| ∥ u + v ∥ ≤ ∥ u ∥ + ∥ v ∥ ∥ u + v ∥ 2 = ∥ u ∥ 2 + 2 ⟨ u , v ⟩ + ∥ v ∥ 2 \|\boldsymbol{u}+\boldsymbol{v}\|^2 = \|\boldsymbol{u}\|^2 + 2\langle \boldsymbol{u}, \boldsymbol{v} \rangle + \|\boldsymbol{v}\|^2 ∥ u + v ∥ 2 = ∥ u ∥ 2 + 2 ⟨ u , v ⟩ + ∥ v ∥ 2 입니다. 이 때 Cauchy-Schartz inequality에 의해
∥ u ∥ 2 + 2 ⟨ u , v ⟩ + ∥ v ∥ 2 ≤ ∥ u ∥ 2 + 2 ∥ u ∥ ∥ v ∥ + ∥ v ∥ 2 = ( ∥ u ∥ + ∥ v ∥ ) 2 \|\boldsymbol{u}\|^2 + 2\langle \boldsymbol{u}, \boldsymbol{v} \rangle + \|\boldsymbol{v}\|^2 \leq \|\boldsymbol{u}\|^2 + 2\|\boldsymbol{u}\|\|\boldsymbol{v}\|+\|\boldsymbol{v}\|^2 = (\|\boldsymbol{u}\|+\|\boldsymbol{v}\|)^2 ∥ u ∥ 2 + 2 ⟨ u , v ⟩ + ∥ v ∥ 2 ≤ ∥ u ∥ 2 + 2 ∥ u ∥ ∥ v ∥ + ∥ v ∥ 2 = ( ∥ u ∥ + ∥ v ∥ ) 2 을 만족하므로
∥ u + v ∥ ≤ ∥ u ∥ + ∥ v ∥ \|\boldsymbol{u}+\boldsymbol{v}\| \leq \|\boldsymbol{u}\|+\|\boldsymbol{v}\| ∥ u + v ∥ ≤ ∥ u ∥ + ∥ v ∥ 를 얻을 수 있습니다.
