..

Word - context PMI matrix 의 차원을 축소하는 과정에서 principal components 들이 서로 다른 의미를 지닐 수도 있다는 의심을 하였습니다. SVD 를 이용하여 차원을 매우 작게 축소하면, topical similarity 만 남는다는 느낌을 받았습니다. Word2Vec 의 공간을 이해하는 힌트가 될지도 모르겠습니다.

• https://lovit.github.io/nlp/2018/04/22/context_vector_for_word_similarity/

데이터 임베딩 : MatrixFactorize를 하면 좋을지도?

• https://drive.google.com/file/d/15UBUAhDoHKMaz3pkvpN630KX45emc-bP/view