# RNN

79개의 포스트
post-thumbnail

RNN Basic

RNN은 구조자체는 어렵지 않지만 왜 그렇게 해야하는지 수식을 통해 이해가 필요하다시퀸스 데이터란소리, 문자열, 주가 등 시간에 따라 변화하는 데이터를 시퀸스(sequence) 데이터라고 한다시퀸스 데이터는 i.i.d(독립동등분포)가정을 잘 위배하기 때문에 순서를 바꾸

2일 전
·
0개의 댓글
post-thumbnail

ᄂ 🔶 [18 일차] : EXPLORATION 6. 영화 리뷰 감성분석

IMDb Large Movie Dataset은 50000개의 영어로 작성된 영화 리뷰 텍스트로 구성긍정은 1, 부정은 0의 라벨50000개의 리뷰 중 절반인 25000개가 훈련용 데이터, 나머지 25000개를 테스트용 데이터로 사용하도록 지정Downloading dat

5일 전
·
0개의 댓글
post-thumbnail

[딥러닝] RNN이 뭘까?

RNN과 LSTM을 잘 설명해준 유튜브를 보고 공부를 해보자!

6일 전
·
0개의 댓글
post-thumbnail

딥러닝 스터디 순환신경망 고급 사용

3번째 줄의 recurrent_dropout이 순환 드롭아웃에 해당한다. RNN에서 기본적인 Dropout 사용하면 중요한 과거 정보를 잃어버릴 확률이 높아지고, 그에 따른 모델성능이 나빠질 가능성이 있다. 이 문제를 해결하기 위해 순환 드롭아웃은 Network에서

2022년 1월 5일
·
0개의 댓글
post-thumbnail

[TIL] RNN과 LSTM

RNN과 LSTM

2021년 12월 28일
·
0개의 댓글
post-thumbnail

Sequential Models

이번에는 이미지 데이터가 아닌 Sequential 데이터를 input으로 가지는 모델을 공부해보자.

2021년 12월 27일
·
0개의 댓글
post-thumbnail

[OCR] RNN, LSTM

Neural Net + Recurrent connection

2021년 12월 13일
·
0개의 댓글
post-thumbnail

RNN(순환신경망)

RNN 입력데이터가 시간적 순서를 지닌 시계열 데이터, 은닉층 내부구조는 순환구조이다. ##SimpleRNN ##LSTM ##GRU

2021년 12월 12일
·
0개의 댓글
post-thumbnail

Tensorflow Tutorial_Text

NLP(자연어 처리)와 연관된 텍스트에 대해서도 공부해야 할 필요성을 느껴 Tensorflow 튜토리얼을 기반으로 공부해보았다.

2021년 11월 16일
·
0개의 댓글
post-thumbnail

[CS224N] Lecture 6: Language Models and Recurrent Neural Network

작성자: 고려대학교 통계학과 김현지Contents1\. Language Modeling2\. n-gram Language Model3\. Neural Language Model4\. RNN Language ModelLanguage Modeling: 주어진 단어의 시퀀스

2021년 11월 10일
·
3개의 댓글
post-thumbnail

Transformer

위 블로그 내용은 아래의 유튜브 및 블로그 글을 참조했습니다.https://nlpinkorean.github.io/illustrated-transformer/@adityathiruvengadam/transformer-architecture-attention-i

2021년 11월 5일
·
0개의 댓글
post-thumbnail

Building RNN - step by step

오랜만에 쓰는... 공부글...패키지부터 설치해준다. 간단한 원리를 알아보는거라 넘파이만 사용한다.input Tx와 output Ty의 길이가 같다면, 기본적인 RNN모델은 아래와 같이 생겼다.RNN의 single sell구조를 확인해보자.가장 기본적인 RNN cell

2021년 9월 28일
·
0개의 댓글
post-thumbnail

[Week 6] RNN,LSTM and GRU

LSTM 이란?RNN에서 발생하는 Long term dependency를 해결할 수 있는 Model 이다.LSTM의 GateLSTM은 어떻게 RNN 구조에서 가지는 근본적인 문제인 Long term dependency를 해결 할 수 있을까? 그 정답은 위 사진에 보이는

2021년 9월 15일
·
0개의 댓글
post-thumbnail

[Week 6] Recurrent Neural Network

시간적 순서가 있는 데이터를 처리 할 때 사용하는 대표적인 모델RNN의 구조는 위의 사진처럼 X0으로 만들어진 H0의 output이 x1의 학습에 사용되는 구조를 갖는다. 여기서 중요한 것은 다음 각 Time Step에서의 Wight parameter A는 공유된다는

2021년 9월 11일
·
0개의 댓글

[Day 25] Boostcamp AI-Tech

2021년 9월 7일 Day 25

2021년 9월 7일
·
0개의 댓글
post-thumbnail

RNNs

sequence data가 입출력으로 주어진 상태에서 t에서의 입력 $xt$와 이전 hidden state인 $h{t-1}$을 입력으로 받고 $h_t$를 출력하는 네트워크.중요한 것은 매 time stamp마다 새로운 model이 등장하는 것이 아니라, 하나의 para

2021년 9월 7일
·
0개의 댓글
post-thumbnail

RNN

RNN

2021년 8월 26일
·
0개의 댓글
post-thumbnail

모두를 위한 딥러닝 2:: 11-6 PackedSequence

예시 : 자연어처리, NLP에 쓰이는 텍스트 data, audio data, video data emd길이가 미정인 데이터가 많음, 가장 긴 서킷 즉, short circuit이라는 문장의 길이에 맞춰 나머지 data의 뒷부분을 pad라는 token으로 채워넣는 방법장

2021년 8월 23일
·
0개의 댓글