GNN 레이어는 몇개를 쌓을까?

일반적인 구조는 2-3개

• 첫번째 레이어는 각 노드의 이웃 노드의 정보를 통합하여 노드의 임베딩을 학습
• 두번째 레이어는 더 벌리 있는 도드들 간의 관계를 학습하는데 도움을 줌

더 쌓지 않는 이유

• 오버스무딩 문제
• over smoothing : GNN이 너무 많은 레이어를 쌓았을 때, 멀리 떨어진 노드들의 정보까지 통합되면서, 노드 임베딩이 비슷해지는 현상을 말한다.
• 즉, 네트워크가 깊어질 수록 각 노드의 임제딩이 주변 노드들의 정보와 너무 많이 섞여서 구별되지 않는 상태가 될 수 있다.
• 2-3개의 레이어를 사용하는 것이 이러한 오버스무딩 문제를 방지하기 위한 전략이다.

복잡한 문제에서는 더 깊은 모델 사용가능

• 그래프의 멀리 떨어진 노드들 간의 정보 교환이 필요하다면 4개 이상의 레이어를 사용하는 경우도 있다.