https://aiopen.etri.re.kr/service_list.php

https://tech.kakaoenterprise.com/64

https://wikidocs.net/22592

https://tacademy.skplanet.com/live/player/onlineLectureDetail.action?seq=164

https://blog.naver.com/saltluxmarketing/221607368769

https://aiopen.etri.re.kr/service_dataset.php

NLP(natural language processing)

• TF-IDF: 추천시스템에서도 유사도 구할때 사용함

• 낱말 분석(Lexical Analysis)
• 구문 분석(Syntactic Analysis)
• 의미 분석 (Semantic Analysis)
• 감성분석(Sentiment Analysis)

• CORPUS: 말뭉치
• POS-tagging: 형태소 분석
  
• 요약문/ 관계추출/ 의도파악
  
  
• 감성분류/ 추천시스템/지식그래프/ 관계추출
  
  
  

WORD2VEC :gensim으로 가능

• analogy: 수식을 이용하여 임베딩이 잘 되었는지 확인
  https://word2vec.kr/search/?query=%EC%97%AC%EC%9E%90-%EB%82%A8%EC%9E%90%2B%EC%97%AC%EC%B9%9C
  
  
• facebook : FastText
  
• OOV: 스태이크, 나푸탈렌
  

언어모델

RNN

ATTENTION

SELF-ATTENTION

MULTI-HEAD SELF ATTENTION

transformer : NO RNN

• PARALLELIZATION
• ATTENTION에서 확장
  
  

BERT : ENCODER

GPT: DECODER

https://youtu.be/p24JUVgDkQk

• GPT: DECODER

• BERT: ENCODER

• ZERO shot learning: 아무것도 보여주지 않고 개념만으로 학습. 공통점 추출

• one shot learning: 한 장의 사진으로 학습

• few shot learning: 몇 장의 사진으로 학습