🔗 reference link

Summary !

💭 (입력값, 직전까지 계산된 히든벡터)를 기반으로,
개별 또는 순차 데이터를 처리하여 예측을 수행하는 "재귀적" 모델

Sequence data Recursive

 

1. RNN model structure 🔒

“The same function and set of parameters are used at every time step.”

• 각 단계마다 동일한 모듈 A가 재귀적으로 호출되며, 이전 스텝의 출력이 다음 스텝의 입력으로 사용된다.
  • N-1 step's output → N step's input

 

RNN Function & Parameters

RNN의 기본 함수는 다음과 같으며, 이를 통해 매 스텝마다 hidden state $h$가 갱신된다.

$h_t = f_w(h_{t - 1}, x_t)$

$x_t$ : 현재 스텝($t$)에서의 Input data
$h_{t-1}$ : 직전 스텝($t - 1$)까지 계산된 Hidden-state vector
$h_t$ : Hidden-state vector output at $t$

• $f_w$ : RNN function, $t$에서의 Hidden state vector ($h_t$)를 출력한다.

  • $w$ : Linear transformation matrix → 선형 변환 수행

• $y_t$ : Output vector at $t$, based on $h_t$

 

Hidden state vector ($h_t$) 연산

가정 :

타임 $t$ , 입력 벡터 $x_t$와 이전 타임스텝의 출력 벡터 $h_{t-1}$의 크기를 각각

• $x_t \ [3 \ X \ 1],\ h_{t-1} \ [2 \ X \ 1]$ 라고 가정하면,

• FC layer의 선형 변환 matrix W는, $W \ [2 \ X \ 5]$ 임을 알 수 있다.
  ($h_t$의 크기 역시 $h_{t-1}$와 동일하게 유지되어야 하기 때문)

연산 과정 :

$x_t, h_{t-1}$은 $W$와 내적을 거친다. 이때,

• Matrix $W$의 좌측 $W_{xh}[2 \ X \ 3]$은, $x_t$ 벡터와만 계산된다.

• 마찬가지로, Matrix $W$의 우측 $W_{hh}[2 \ X \ 2]$은, $h_{t-1}$ 벡터와만 계산된다.

  즉, $W_{xh} : x_t \rightarrow h_t, \ W_{hh} : h_{t-1} \rightarrow h_t$으로, 변환을 수행한다.
  이후 task에 따라 추가적인 Output layer의 선형 변환 Matrix $W_{hy}$ 와 곱하여 - 최종 Ouput $y_t$가 출력된다.

  • 마찬가지로, $W_{hy} : h_t \rightarrow y_t$ 의 변환을 수행한다.

• $y_t$의 활용
  • Binary classification : $y_t$ (1차원, 스칼라값) → sigmoid func → 확률값
  • Multi-class classification : $y_t$ (class 수 만큼의 차원을 가지는 벡터) → softmax → 확률분포

 

 

2. 다양한 RNN models ➰

Many or One ?
: 태스크와 데이터에 맞는 구조로 조합하여 이용한다.

Many <- Sequential data

< 5 differenct models from RNN >

1. One to One

• 입력, 출력의 타임스텝 = 1
  • Sequence data X
  • (키, 몸무게, 나이) ⇒ 저혈압, 고혈압 분류

2. One to Many

• 입력만 하나의 타임스텝
  • 다음 스텝의 입력이 없는 경우, 동일 크기의 0 값을 input
  • Image captioning task (1 img ⇒ sequential words)

3. Many to One

• 출력만 하나의 타입스텝
  • 매 타임스텝에 Sequential data input, 마지막 스텝에 output
  • Sentiment classification (sequential words ⇒ pos / neg)

4. Many to Many (1)

• 입력, 출력 데이터가 모두 연속적
  • 입력 데이터를 모두 받은 후, 출력 데이터 생성
  • Machine translation

5. **Many** to **Many** (2)

• 입력, 출력 데이터가 모두 연속적
  • 입력이 주어지는 매 타임스텝마다 예측 출력을 수행
  • 실시간성 요구 task : video classification - frame level
  • 단어별 문장성분 예측!