GRAPH ATTENTION NETWORKS

논문 링크

그래프 형태의 데이터에 attention 메커니즘을 적용하는 모델이다

1. attention mechanism

   • 트랜스포머처럼 내적으로 계산하지는 않고, feed-forward neural network 이라고 볼 수 있다. weight matrix 를 노드의 임베딩 벡터에 곱하는 방식으로 attention score를 계산한다.

   ...