GNN - Message Passing

📌목차

1. MPNN 개요
2. Message Passing Phase
3. Readout Phase

📕 MPNN 개요

MPNN(Message Passing Neural Network) 는 GNN의 가장 기본이 되는 방법론으로, Node의 이웃들의 정보를 이용해서 해당 노드의 상태를 업데이트하는 형태를 가진 Neural Network를 의미한다.

MPNN은 크게 두가지로 구성된다.

• Message Passing Phase
  - Message Function : 정보를 집계
  - Update Function : hidden state 업데이트
  • 여기서 말하는 Hidden state는 Feature Vector라 생각하면 됨
• Readout Phase
  - 정보를 활영해서 결과를 도출하는 역할

📕 Message Passing Phase

📖 Message Function

Message Function은 노드 v의 다음 hidden state를 업데이트하기 위한 message를 얻기위해 주변 정보들을 집계하는 역할을 수행한다. 노드 v에 대한 Message Function은 다음과 같음

용어 설명

• t : time step (t+1은 다음 step)
• v : (대상)기준 노드
• N : Neighbor
• Mt : Message Function
• ht : hidden state
• e : edge

수식적으로도 알 수 있듯이, 다음 time step의 기준 노드 v에 대한 message 값은 기준노드의 현재상태, 기준노드 이웃들의 현재상태, 기준노드와 이웃들을 연결하는 엣지들의 정보를 집계하여 표현한다.

따라서, 아래와 같은 예시 그래프를 보자. 해당 그래프에서 A노드의 정보를 얻고싶다면 이웃하는 노드 B,C,D의 정보를 집계하여 Message를 얻을 수 있다.

📖 Update Function

Update Function은 이렇게 얻어진 Message를 활용해서 기준 노드의 다음 Hidden state를 update하는 역할을 한다. 기준 노드 v에 대한 update function은 다음과 같다.

📕 Readout Phase

Update하여 얻은 Hidden state를 활용해서 우리가 예측하기를 원하는 노드의 Label, 그래프의 Label 등을 도출함

📚 Reference

https://process-mining.tistory.com/164
https://ngkim.tistory.com/121