1.6 Linear Independence(2)

Theorem 7. Characterization of Linearly Dependent Sets

An indexed set $S = \begin{Bmatrix}\bold{v_1}, \cdots, \bold{v_p} \end{Bmatrix}$ of two or more is vectors is linearly dependent, if and only if at least one of the vectors in $S$ is a linear combination of the others.

if and only if 이므로 필요충분조건이다. 먼저, 전건에서 후건 방향을 생각해보자

$S = \begin{Bmatrix}\bold{v_1}, \cdots, \bold{v_p} \end{Bmatrix}$ 가 linearly dependent 하므로,

weight $\begin{Bmatrix} c_1, \cdots, c_p \end{Bmatrix}$에 대해서 $c_1\bold{v_1} + c_2\bold{v_2} + \cdots + c_p\bold{v_p} = 0$ 은 non trivial solution을 갖는다.

 

이때 weight 중 최소한 하나는 non zero이고, non zero 에 해당하는 weight 를 $c_1$ 이라고 가정하자. 그렇다면 $\bold{v_1} = (-c_2/c_1)\bold{v_2} + \cdots + (-c_p/c_1)\bold{v_p}$ 가 되므로, 후건의 꼴이 된다.

 

 

후건에서 전건 방향으로 생각해보자.

$\bold{v_1} = c_2\bold{v_2} + \cdots + c_p\bold{v_p}$ 꼴의 linear combination 이 있다

즉, $-\bold{v_1} + c_2\bold{v_2} + \cdots + c_p\bold{v_p} = 0$ 꼴로 바꿀 수 있는데, 이때는 $c_2$ 부터 $c_p$ 까지 모든 coefficient 가 0이어도, $\bold{v_1}$의 coefficient 가 -1이므로 non trivial 하다. 따라서 linearly dependent 하다

 

 

Theorem7 의 뒷부분은 다음과 같다.

In fact, if $S$ is linearly dependent and $\bold{v_1} \not = 0$, then some $\bold{v_j}\ (with\ j>1)$ is a linear combination of the preceding vectors, $\bold{v_1}, \cdots, \bold{v_{j-1}}$

(some = 어떤)

$c_1\bold{v_1} + c_2\bold{v_2} + \cdots + c_p\bold{v_p} = 0$ 꼴을 생각해보자

j : the largest subscript for which $c_j \not = 0$ 라고 하면

$c_1\bold{v_1} + \cdots + c_j\bold{v_j} + 0\bold{v_{j+1}} + \cdots + 0\bold{v_p} = 0$ 꼴이 된다고 할 수 있다.

(이때 만약 j = 1이면 $c_1\bold{v_1} = 0$ 이 되므로, $c_1$ 이나 $\bold{v_1}$ 이 0 이 되어야 하므로 모순이 된다.)

즉 $j>1,\ v_j = (-\frac{c_1}{c_j})\bold{v_1} + \cdots + (-\frac{c_{j-1}}{c_j})\bold{v_{j-1}}$ 꼴로 표현할 수 있다.

 

 

 

$\{\bold{u}, \bold{v}, \bold{w}\}$ in $\mathbb{R}^3$

(with $\bold{u}$ and $\bold{v}$ linearly independent)

$\bold{w}$ is in Span $\{\bold{u}, \bold{v}\}$ if and only if the set $\{\bold{u}, \bold{v}, \bold{w}\}$ is linearly dependent

 

• 전건에서 후건

  $\bold{w} = c\bold{u} + d\bold{v}, -\bold{w} + c\bold{u} + d\bold{v} = 0$
  

$\bold{w}$ 가 span $\{\bold{u}, \bold{v}\}$ 안에 있음은 $\bold{w} = c\bold{u} + d\bold{v}$ 로 표현할 수 있다.

이때 이항하여 $-\bold{w} + c\bold{u} + d\bold{v} = 0$ 로 나타냈을 때, $\bold{w}$ 의 coefficient 가 -1이므로 non zero이게 된다. 따라서, non trivial 이고, $\{\bold{u}, \bold{v}, \bold{w}\}$ 는 linearly dependent 하다.

 

• 후건에서 전건

  $\bold{u} \not = \bold{0}, \bold{u} \not = c\bold{v}$
  

먼저, $\bold{u}$ 가 0벡터가 아니어야 한다(Theorem 9 에 의해, $\bold{u}$ 가 0벡터이면 linearly dependent하게 되고, 이는 전제 조건에 위배된다)

$\bold{u}$ 가 0벡터가 아니라는 조건 하에, 둘은 서로 linearly independent 하므로 서로의 곱 형태로 표현되지 않는다. 즉, $\bold{u} \not = c\bold{v}$ 이다.

$\bold{u} \not = \bold{0}, \bold{u} \not = c\bold{v}$ 라면, Theorem 7 에 의해 $\bold{w}$ 는 $\bold{u}$ 와 $\bold{v}$ 의 linear combination으로 표현이 가능하다.

(In fact, if $S$ is linearly dependent and $\bold{v_1} \not = 0$, then some $\bold{v_j}\ (with\ j>1)$ is a linear combination of the preceding vectors, $\bold{v_1}, \cdots, \bold{v_{j-1}}$)

즉, $\bold{u}$ $\bold{v}$ $\bold{w}$ 순서로 존재할 때, $\bold{u}$ 가 $\bold{v_1}$ 에 해당하고 $\bold{v_1} \not = 0$ 을 만족하고

$\bold{u} \not = c\bold{v}$ 이므로 $\bold{v}$ 는 $\bold{u}$ 의 linear combination 꼴이 아니니

$\bold{w}$ 가 Theorem 7 에 의해 반드시 $\bold{u}$ 와 $\bold{v}$ 의 linear combination으로 표현이 가능하다는 것이다.

따라서, 이는 $\bold{w}$ 가 span $\{\bold{u}, \bold{v}\}$ 안에 있다는 뜻이 된다.

 

 

 

Theorem 8. If a set contains more vectors than there are entries in each vector, then the set is linearly dependent

 

$n \times p$

$p > n$

must have at least one free variable!

so, $A\bold{x} = \bold{0}$ has a nontrivial solution = linearly dependent

 

Example3.

$\begin{bmatrix}2\\1\end{bmatrix} \begin{bmatrix}4\\-1\end{bmatrix} \begin{bmatrix}-2\\2\end{bmatrix}$ → linearly dependent

 

 

 

Theorem 9. If a set contains the zero vector, then the set is linearly dependent

example

$1\bold{v_1} + 0\bold{v_2} + \cdots + 0\bold{v_p} = \bold{0}$

에서 $\bold{v_1}$ 을 0벡터라고 하면, $\bold{v_1}$ 의 계수가 무엇이든 (예제에서는 1), 식의 결과와는 상관 없어지므로 non trivial 한 solution 이 생기고, 이는 곧 linearly dependent 하게 된다.

 

 

example4.

$\begin{bmatrix}1\\7\\6\end{bmatrix} \begin{bmatrix}2\\0\\9\end{bmatrix} \begin{bmatrix}3\\1\\5\end{bmatrix} \begin{bmatrix}4\\1\\8\end{bmatrix}$ → linearly dependent by theorem 8

$\begin{bmatrix}2\\3\\5\end{bmatrix} \begin{bmatrix}0\\0\\0\end{bmatrix} \begin{bmatrix}7\\3\\2\end{bmatrix}$→ linearly dependent by theorem 9

$\begin{bmatrix}-2\\4\\6\\10\end{bmatrix} \begin{bmatrix}-1\\2\\3\\1\end{bmatrix}$→ linearly independent because two vectors are not multiple of each other.