📌선형변환(Linear Transformation)

y = 3x + 2

위와 같이 bias 항을 포함하는 방정식은 선형 결합이 아니고, 선형 변환이 아니다.

선형결합
T ( 3 x A + 4 x B ) = 3 x T ( A ) + 4 x T ( B )

• $x = 1$일 때, $y=5$
  $x=2$일 때, $y=8$

• T ( 3 x A + 4 x B )
  ( 3 x 1 ) + ( 4 x 2 ) = 11
  11을 함수 y에 대입
  출력값 = 3 x 11 + 2 = 35

• 3 x T ( A ) + 4 x T ( B )
  ( 3 x 5 ) + ( 4 x 8 ) = 47

  35와 47이 같지 않다. ⇒ 선형 변환이 아니다.

이러한 식을 선형 변환으로 만드는 방법은 아래와 같은 트릭을 사용해서 선형변환이 가능하게 만들 수 있다.

$\begin{bmatrix}3&2\\ \end{bmatrix}$$\begin{bmatrix}x\\1\\ \end{bmatrix}$ = $3x+2$

• 3 x T ( A ) + 4 x T ( B )
  ( 3 x $\begin{bmatrix}1\\1\\ \end{bmatrix}$) + ( 4 x $\begin{bmatrix}2\\1\\ \end{bmatrix}$) = $\begin{bmatrix}11\\7\\ \end{bmatrix}$
  $\begin{bmatrix}3&2\\ \end{bmatrix}$$\begin{bmatrix}11\\7\\ \end{bmatrix}$ = 33 + 14 = 47

출력값이 47로 동일하므로 선형 변환이라고 할 수 있다.

이렇게 bias항이 있는 경우 입력 벡터의 처음 또는 마지막에 "1"을 넣고 선형 변환을 통해 bias항을 해결한다.

---

• 선형성을 만족하는 변환이다.
  = 그 변환은 무조건 어떤 행렬과 주어진 입력 벡터의 곱으로 항상 나타낼 수 있다.

• 선형 변환에서 일어나는 일
  

https://colah.github.io/posts/2014-03-NN-Manifolds-Topology/