CS224n: Natural Language Processing with Deep Learning

---

0. 포스팅 개요

활동하고 있는 빅데이터 연합 동아리에서 NLP 스터디를 진행했습니다. NLP, 자연어 처리 스터디를 참여하게 된 이유로는 자연어 처리 분야는 딥러닝에서 활발하게 연구되고 발전되는 분야 중 하나이고 자연어 처리를 위해 고안되는 모델의 알고리즘이 다양한 분야에서 활용될 수 있음을 느꼈기 때문입니다. 특히 연속적인 데이터를 다루고 인지해야하는 특징은 제가 관심을 가지고 공부하고 있는 추천 시스템에도 분명 필요한 특징이라는 생각이 들었습니다. 사실 해당 NLP 스터디는 2020년 8월부터 12월까지 진행되었으며 이러저러한 이유로 늦게 정리하게 되었습니다.

1. CS224n - Stanford Winter 2019

NLP 강의로 유명한 Stanford 대학의 CS224n(2019 Winter)를 스터디 주제로 하였으며 스터디원이 약 8주간 총 18개의 강의를 리뷰 및 정리하였습니다.

각 강의를 정리한 블로그는 투빅스 텍스트 세미나이며, 스터디에 대한 자세한 내용은 github에서 확인할 수 있습니다. 스터디에 참여한 인원은 대부분 대학생이므로 강의 리뷰 내용에 틀린 부분이 많이 있을 것으로 생각됩니다. 틀린 부분에 대해서는 댓글로 알려주신다면 수정하도록 하겠습니다.

스터디 커리큘럼

Date	Week	Topic	Reviewer	Review	Lecture
Oct 28, 2020	1	Lecture 1 – Introduction and Word Vectors	조혜원	Velog	Video
Oct 28, 2020	1	Lecture 2 – Word Vectors and Word Senses	이혜린	Velog	Video
Nov 4, 2020	2	Lecture 3 – Word Window Classification, Neural Networks, and Matrix Calculus	고경태	Velog	Video
Nov 4, 2020	2	Lecture 4 – Backpropagation and Computation Graphs	이재빈	Velog	Video
Nov 11, 2020	3	Lecture 5 – Linguistic Structure: Dependency Parsing	오진석	Velog	Video
Nov 11, 2020	3	Lecture 6 – Language Models and RNNs	김민정	Velog	Video
Nov 18, 2020	4	Lecture 7 – Vanishing Gradients, Fancy RNNs	최혜빈	Velog	Video
Nov 18, 2020	4	Lecture 8 – Translation, Seq2Seq, Attention	고경태	Velog	Video
Nov 25, 2020	5	Lecture 9 – Practical Tips for Projects	민거홍	Velog	Video
Nov 25, 2020	5	Lecture 10 – Question Answering	김미성	Velog	Video
Dec 16, 2020	6	Lecture 11 – Convolutional Networks for NLP	이예진	Velog	Video
Dec 16, 2020	6	Lecture 12 – Subword Models	장예은	Velog	Video
Dec 16, 2020	6	Lecture 13 – Contextual Word Embeddings	오진석	Velog	Video
Dec 23, 2020	7	Lecture 14 – Transformers and Self-Attention	정주원	Velog	Video
Dec 23, 2020	7	Lecture 15 – Natural Language Generation	김민정	Velog	Video
Dec 23, 2020	7	Lecture 18 – Constituency Parsing, TreeRNNs	정민준	Velog	Video