NLP
1.[NLP] Bag of Words & Word Embedding
Bag of Words, Word2Vec, GloVe
2022년 10월 12일
2.[NLP] RNN, LSTM, and GRU
Recurrent Neural Networks
2022년 10월 14일
3.[NLP] Seq2seq with Attention, Beam Search and BLEU Score
Attention, Beam search, BLEU score
2022년 10월 17일
4.[NLP] Transformer
RNN 모델의 경우 멀리 떨어져있는 데이터의 정보를 가져올 때 gradient vanishing, exploding, long term dependencing과 같이 정보의 손실, 변질이 일어남B-Directional RNNs : 순차적으로 왼쪽의 정보를 가져오는 Fo
2022년 10월 20일
5.[NLP] Self-supervised Pre-training Models
Pre-training model GPT-1,2,3, BERT
2022년 10월 24일
6.NL Data 관리 및 처리(Pandas)
Pandas 이전 이론 자료 Series : 1차원 배열 형태 (인덱스에 의한 저장과 검색) List, Numpy의 Array, dictionary를 통해 생성 pd.Series() DataFrame : 2차원 배열 형태 (인덱스와 칼럼에 의한 저장과 검색 List, Numpy의 Array, dictionary를 통해 생성 pd.DataFrame(dat...
2022년 10월 25일
7.[NLP] N21, N2N, N2M problems
Reference Representation : 정답을 어떻게 표현하는지Scoring Normalization : 값을 비교하기 위해 scale이 같아야 한다Softmax : 0~1값으로 normalizationCost(object, loss 등) Function De
2022년 10월 26일
8.자연어 전처리
2022년 11월 14일