# NLP
자연어 처리
'온라인 행동정보로 상품 추천' 프로젝트에 '검색어'를 feature로 추가하기 위해서 워드 임베딩을 해야했다. 다음은 워드 임베딩에 이르기까지의 과정이다. 기존에 진행했던 것과 같이 구매로 이어진 세션에서 검색어가 있는 경우만 추출데이터 수 : 22239->1262
자연어 처리 NLP
'온라인 행동정보로 상품 추천' 프로젝트에 '검색어'를 feature로 추가하기 위해서 워드 임베딩을 해야했다. 다음은 워드 임베딩에 이르기까지의 과정이다.
[CS224n] Lecture 9 - Practical Tips for Final Projects
작성자 : 투빅스 14기 민거홍Lecture 9는 NLP 연구 전반과 CS224n 최종 프로젝트에 대해 다룹니다. 1\. Starting Research2\. Review of Gated Neural Sequence Models 3\. MT Topics4\. Rese
[CS224n] Lecture 8 - Machine Translation, Sequence-to-sequence and Attention
작성자 : 투빅스 14기 고경태 > Contents Machine Translation Sequence to sequence Neural technique: Attention 목차의 흐름은 전 목차 주제에서의 한계점을 극복하고 발전하는 방향으로 진행됩니다. 즉, 기계
[CS224n] Lecture 7 - Vanishing Gradients And Fancy RNNs
작성자 : 투빅스 13기 최혜빈 > Contents Vanishing gradient problem LSTM GRU More fancy RNN variants Vanishing gradient problem Remark) Backpropagation for RNNs
[CS224n] Lecture 6 - Language Models and Recurrent Neural Network
작성자 : 투빅스 13기 김민정 > Contents Language Modeling N-gram Language Model Neural Language Model RNN Language Model Perplexity 1. Language Modeling 많은 사람
[CS224n] Lecture 5 - Linguistic Structure: Dependency Parsing
작성자 : 투빅스 13기 오진석Syntactic Structure: Consitituency and DependencyDependency Grammar and TreebanksTransition-based dependency parsingNeural Denpendenc
[CS224n] Lecture 4 - Backpropagation and Computation Graph
작성자 : 투빅스 13기 이재빈 > Contents Matrix Gradients for Neural Nets Computation Graphs and Backpropagation Tips and Tricks for Neural Networks 1. Matrix G
[CS224n] Lecture 3 - Word Window Classification, Neural Networks, and Matrix Calculus
작성자 : 투빅스 14기 고경태 > Contents Classification review/introduction Neural Networks introduction Neural Networks in NLP! Matrix calculus! 1. Classificati
Efficient Intent Detection with Dual Encoders 🔫
🎊개요 Conversational AI 서비스 중 하나인 PolyAI(https://www.polyai.com/)의 research paper를 정리한다. 논문 - https://arxiv.org/pdf/2003.04807.pdf ❔ Introduction Int
DIET: Lightweight Language Understanding for Dialogue Systems 🏃♂️
개요 Conversation AI를 위한 Open source framework인 Rasa(https://rasa.com/)의 research paper를 정리한다 ❔ Introduction Two common approaches for data-driven dia
[CS224n] Lecture 2 - Word Vectors and Word Senses
작성자 : 투빅스 14기 이혜린 > Contents Word2vec Co-occurrence matrix GloVe Evaluation 1. Word2Vec 텍스트 모델의 핵심은 텍스트를 컴퓨터가 인식할 수 있도록 숫자 형태의 벡터 또는 행렬로 변환하는 것입니다
[CS224n] Lecture 1 - Introduction and Word Vector
작성자 : 투빅스 13기 조혜원 > Contents How to represent Words' Meaning Word2Vec Derivations of Gradient How to represent Words' Meaning 1. WordNet 1) WordNe
Transformer 기반의 자연어처리 모델
허깅페이스 블로그들을 둘러보다 트랜스포머 모델들에 대해 정리한 글을 찾아 보면서 정리해보도록한다.하이레벨 관점에서 모델들의 차이점을 다루고자 한다. hugging face model 페이지에서 사전 학습된 파일들을 찾아서 테스트 해볼수 있다.허킹갓 페이스..허깅페이스
Survey of Classification Models for Incomplete Text data 🧭
NLP 모델이 입력받는 텍스트 데이터의 에러(오탈자, 잘못된 띄어쓰기 등) 대응하는 모델 survey논문
Natural Language Processing in TensorFlow week4
만약 poetry같은 경우 학습은 어떻게 할 것인가?코드는 딱히 안봐도 될 것같고 concept만 잡고 가자.'in the town of athy one jeremy'라는 문장이 있을 때 이를 다음과 같이 데이터 셋을 구성한다.'in the''in the town'..
Natural Language Processing in TensorFlow week3
드디어 RNN, LSTM, GRU를 이용하여 sequence 데이터를 처리하는 모델을 만들어본다.그냥 tf.keras.layers.LSTM을 쓰면 one directional이고 tf.keras.layers.Bidirectional로 wrapping하면 bi-direc
Natural Language Processing in TensorFlow week2
Large Movie Review Dataset(IMDB) linkhttp://ai.stanford.edu/~amaas/data/sentiment/tensorflow_datasets를 사용하려면 먼저 pip install tensorflow-datasets를