# LSTM

87개의 포스트

LSTM

# LSTM

5일 전
·
0개의 댓글
·

lstm 5. BERT

BERT 사전학습된 대용량의 레이블링 되지 않는 데이터를 이용하여 언어 모델을 학습하고 이를 토대로 문서 분류나 질의 응답, 번역등을 위한 신경망을 추가하는 전이 학습 방법 대용량의 데이터를 직접 학습시키기 위해서는 매우 많은 자원과 시간이 필요하지만 BERT 모델

2022년 11월 22일
·
0개의 댓글
·
post-thumbnail

[혼자 공부하는 머신러닝+딥러닝] - CH.9-3 LSTM & GRU cell

LSTM 셀: 타임스텝이 긴 데이터를 효과적으로 학습하기 위해 고안된 순환층, '입력 게이트, 삭제 게이트, 출력 게이트' 역할을 하는 작은셀이 포함되어 있음LSTM 셀은 은닉 상태(Hidden state) 외에 셀 상태를 출력함, 셀 상태는 다음 층으로 전달되지 않으

2022년 11월 16일
·
0개의 댓글
·

lstm 2. RNN Embedding

파이토치에서 임베딩 벡터를 사용하는 방법은 2가지다. 임베딩 층을 만들어 훈련 데이터로부터, 처음부터 임베딩 벡터를 학습하는 방법과 미리 사전에 훈련된 임베딩 벡터들을 가져와 사용하는 방법 미리 사전에 훈련된 임베딩 벡터들을 가져와 사용하는 방법 임베딩 층은 룩업

2022년 11월 16일
·
0개의 댓글
·

lstm 1. RNN 함수형 API 설명

미래를 예측할 수 있는 네트워크, 네트워크 순환 신경망은 고정길이 입력이 아닌 임의 길이를 가진 시퀀스를 다룰 수 있다. 예를 들어 문장, 문서, 오디오 샘플을 입력으로 받을 수 있고, 자동 번역, 스피치 투 텍스트 같은 자연어 처리에 유용하다. 케라스의 함수형 AP

2022년 11월 16일
·
0개의 댓글
·
post-thumbnail

시계열 데이터 처리 - 1. 데이터 확인 및 이상치 탐지

앞으로 LSTM을 공부하는 기록을 남길 것이며, 오늘은 모든 AI 모델 개발에서 첫 단계인 데이터 준비를 해볼 것이다

2022년 11월 10일
·
0개의 댓글
·
post-thumbnail

상관계수

https://mindscale.kr/course/basic-stat-python/6/상관계수 (Correlation coefficient) : 두 변수가 함께 변하는 정도를 -1 ~ 1 범위의 수로 나타낸 것칼 피어슨(Karl Pearson)이 개발일반적으로

2022년 10월 26일
·
0개의 댓글
·

RNN ~ LSTM

Recurrent neural network (RNN) 과 LSTM

2022년 10월 19일
·
0개의 댓글
·
post-thumbnail

LSTM

h는 단기 상태(Short-Term state), c는 장기 상태(Long-Term state)단순한 인코딩이 아닌 컴퓨터가 더 잘 이해할 수 있도록 변환주로 희소 표현(원 핫 인코딩)에서 밀집 표현(실수형태)로 변환, 낮은 용량임베딩 과정을 통해서 나온 결과를 임베딩

2022년 10월 12일
·
0개의 댓글
·

부스트캠프 3주차

CNN, RNN, Transformer, Generative models 정리

2022년 10월 9일
·
0개의 댓글
·

Deep Learning(기초) - 5. RNN

Sequetial Model을 다루기 위한 RNN구조의 모델들

2022년 10월 5일
·
0개의 댓글
·

딥러닝 텐서플로 교과서 - 7장

7장 시계열 분석

2022년 10월 3일
·
0개의 댓글
·

밑바닥부터 시작하는 딥러닝 2 - 7장

7장 RNN을 사용한 문장 생성

2022년 9월 30일
·
0개의 댓글
·

밑바닥부터 시작하는 딥러닝 2 - 6장

6장 게이트가 추가된 RNN

2022년 9월 28일
·
0개의 댓글
·
post-thumbnail

인공지능 놓치기쉬운 기본개념 총정리

인공지능 분야를 공부하다보면 선형대수학, 신경망, 데이터 전후처리 등등 알아야할 사항이 너무나도 많다. 작업을 하다보면 제대로 알지못하면서 그냥 넘어가는 부분이 많았던 것 같다.'기본이지만 쉽게 넘어갈법한, 그리고 중요한' 개념들에 대해 포스팅해본다. 중간중간 계속 수

2022년 9월 28일
·
0개의 댓글
·
post-thumbnail

LSTM with Attention 을 이용한 뉴스 데이터 요약

[LG-CNS 실습과정] Attention 모델 활용을 위해 작성한 내용 및 코드.

2022년 9월 12일
·
0개의 댓글
·
post-thumbnail

LSTM 시계열 예측 모듈 만들기 (1)

???: 지금 들어가도 되나요?

2022년 8월 21일
·
1개의 댓글
·