자연어 (natural language) : 일상 생활에서 사용하는 보편적인 언어자연어 처리 (natural language processing, NLP) : 컴퓨터가 자연어를 처리하는 일ex) 음성 인식, 번역, 요약, 분류Sentiment Analysis텍스트에 녹
Word2Vec 기존 정수 인코딩 (Integer Encoding)의 한계 단어 사이의 연관성을 파악하기 어려움 원-핫 인코딩 (One-hot Encoding)의 한계? 희소 표현을 하기에 메모리를 많이 차지 + 연관성 파악 힘듦 밀집 표현 (Dense Repr
RNN 시계열 데이터를 처리하기에 좋은 뉴럴 네트워크 구조 ex) 음성인식 (speech recognition) 음악 생성기 (music generation) DNA 염기서열 분석 번역기 (machine translation) 감정분석 (sentime
$\\alpha$와 ABCD의 유사도를 비교Encoder의 hidden state h1, h2, h3, h4 ( Key )Decoder의 마지막 hidden state ( Query )Decoder의 hidden state(Query)와 encoder의 hidden