GNN 관련 기타 이슈

GNN 구현시 관련 기타 이슈를 기록 & 업데이트

Unseen node 처리 방식

1. Inductive learning
   • Ground truth 를 알고있는 data로 모델을 학습한 후, 전혀 새로운 graph에 대해 node와 edge를 추정하는 것
2. Transductive learning
   • Known data로 Supervised learning 하고 연결된 Unknown node와 edge를 Predict하는 방식

Spectral VS Spational 방식

• Spectral : eigenvector 기반 방식, 효율적으로 일반화하는 것이 어려움, 근간 이론은 탄탄, 무방향 그래프만 적용 가능

  → GCN

• Spational : Spatial관계를 고려한 학습(중심노드와 주변노드의 관계)

  → GAT, GraphSAGE, Diffusion을 이용한 알고리즘 다수(하나의 노드에서 이웃노드로 정보 전달할 때, 특정 확률 기반으로 전달)

Autoencoder

• Link prediction 방식등의 task를 부여해 representation learning?
• random walk 의 방법론도 있음

Self-supervised Learning

• Label 데이터 없이 그래프 내부에서 학습하는 SSL의 방법의 예는 아래와 같음
  • Node level : 클러스터링 계수, Pagerank 와 같은 node통계량 예측 문제를 풀게함
  • Edge level : 링크 연결 문제
  • Graph level : 그래프통계량, 두 그래프가 동형인지(구조적 정보)

Data split 이슈

• 일반적인 tabular data, 유클리드 공간에 정의된 data는 서로 독립된 개체 → 그냥 random index로 split해도 큰 상관 X
• 그러나, 그래프안의 노드는 독립적이지 않음(Message Passing에 참여)
  1. Transductive Setting
  2. Inductive Setting

Graph Design 방법