[CS224W] 3.1 Node Embeddings

Graph Representation Learning

• Feature engineering 수행 없이 자동으로 이행
• 개별 노드를 d 차원의 벡터로 나타내는 것

Why Embedding?

• Node 간 임베딩의 유사성이 Network의 유사성을 나타냄
• 네트워크의 구조를 encoding 하는 것
• 다양한 downstream task에 사용 가능

그래서 어떻게 formula 합니까

Setup

• 인접 행렬로 표현

• Node의 feature와 extra information은 없다고 가정 (무방향 그래프)

• Goal은 embedding space의 유사성이 dot product로 근사되게 하는 것

• 즉 두 점의 유사도와 embedding space의 두 점 내적이 근사하게 하는 embedding space를 find!

• 단 유사도 function(목적함수)도 정해야 함 (이를 바탕으로 최적화)

Encoder

• Node를 저차원 vector로 mapping
• u node가 d 차원 벡터로 변환

• encoder는 vector Z로써 일종의 Lookup Table
• 이를 학습하는 것이 목표

• Embedding Matrix Z는 Lookup table이며 d개의 행 Node의 개수 만큼의 열을 가짐

• Node embedding 방법론은 unsupervised/self supervised 방법론으로 Deepwalk, Node2vec 등이 있음