GCN의 전파 규칙 이해하기
목표: GCN의 전파 규칙 H(i+1)=σ(AH(i)W(i)) 를 이커머스 데이터로 이해하기
💡 핵심 개념:
노드 임베딩은 이웃 노드의 정보를 받아서 업데이트된다.
→ 이를 수학적으로 표현한 것이 전파 규칙(propagation rule)입니다.
1. 기본 개념: GCN은 어떻게 작동하나?
🔹 GCN의 핵심: Message Passing (메시지 전달)
- 각 노드는 이웃 노드로부터 메시지(정보)를 받음
- 받은 메시지를 통합(Aggregation)하고, 업데이트(Update)하여 새로운 임베딩 생성
- 여러 레이어 반복 → 점점 더 풍부한 표현 학습
2. 전파 규칙 수식: H(i+1)=σ(AH(i)W(i))
이 수식은 GCN의 가장 기본적인 전파 규칙입니다.
H(i+1)=σ(AH(i)W(i))
- H(i): i번째 레이어에서의 노드 임베딩 행렬
- A: 인접 행렬 (그래프 구조)
- W(i): 학습 가능한 가중치 행렬
- σ: 활성화 함수 (예: ReLU)
수식 해석: 각 요소의 의미
| 기호 | 설명 |
|---|
| H(i) | 현재 레이어에서의 노드 임베딩 (행렬 형태) |
| A | 노드 간 연결 관계 (인접 행렬) |
| W(i) | 학습 가능한 가중치 (특징 변환) |
| σ | 비선형성 추가 (ReLU 등) |
💡 직관적 설명:
“이웃 노드의 정보(AH(i))를 모아서, 가중치(W(i))로 변환하고, 비선형 함수(σ)로 처리 → 새로운 임베딩 생성”
3. 실제 이커머스 데이터로 적용해보기
입력 데이터: 특성 행렬 X(=H(0)) + 인접 행렬 A
1) 특성 행렬 X=H(0) — 초기 임베딩 (모두 양수!)
💡 H(0)=X∈R5×7 → 모든 원소 > 0 (0.1을 최소값으로 설정하여 0 방지)
2) 인접 행렬 A — 그래프 구조
노드 순서: [U1, U2, P1, P2, P3]
A=⎣⎢⎢⎢⎢⎢⎡0011000101110001000001000⎦⎥⎥⎥⎥⎥⎤
GCN 1단계: 전파 규칙 적용 (H(1)=σ(AH(0)W(0)))
1) A×H(0) 계산 — 이웃 정보 전달
A×H(0)=⎣⎢⎢⎢⎢⎢⎡0011000101110001000001000⎦⎥⎥⎥⎥⎥⎤×⎣⎢⎢⎢⎢⎢⎡0.60.70.10.10.10.50.40.10.10.10.10.11.00.10.10.10.10.11.00.10.10.10.10.11.00.10.10.80.60.90.10.10.90.70.8⎦⎥⎥⎥⎥⎥⎤
- H는 각 노드의 특성
- A는 인터렉션 행렬로 둘을 곱해 실제 인터렉션이 있는 노드의 특성이 적용됨.
- ex) 0번째 노드는 2,3 노드와 관련이 있고 곱으로 인해 2,3행렬의 특징이 적용됨.
✅ Message Passing 효과
2) (AH(0))×W(0) 계산 — 특징 변환 (모두 양수 가중치)
가정: W(0)∈R7×3, 모든 원소 > 0
W(0)=⎣⎢⎢⎢⎢⎢⎢⎢⎢⎢⎡0.10.40.70.20.50.20.50.20.50.80.30.60.30.60.30.60.90.40.70.40.7⎦⎥⎥⎥⎥⎥⎥⎥⎥⎥⎤
→ (AH(0))W(0)∈R5×3 계산 결과 모든 값 > 0
3) σ((AH(0))W(0)) 계산 — 비선형성 추가
활성화 함수 σ=ReLU (음수는 0으로)
H(1)=ReLU((AH(0))W(0))=(AH(0))W(0)
→ 최종 H(1)의 모든 원소 양수!
4. Multi-layer: 2층 GCN 적용
1) H(1)을 입력으로 다시 전파 규칙 적용
H(2)=σ(AH(1)W(1))
→ 모든 중간값이 양수이므로, 2층에서도 0이 발생하지 않음
5. Sum 방식 예시
예시 데이터: 작은 그래프
→ 인접 행렬 A:
A=⎣⎢⎢⎢⎡0001101001010100⎦⎥⎥⎥⎤
→ 특성 행렬 X∈R4×2:
X=⎣⎢⎢⎢⎡1.02.03.04.01.02.03.04.0⎦⎥⎥⎥⎤
1단계: A×X 계산 — 이웃 정보 전달
AX=⎣⎢⎢⎢⎡2.07.02.04.02.07.02.04.0⎦⎥⎥⎥⎤
✅ Sum 방식: 이웃 노드의 특성을 단순히 더함
2단계: (AX)×W 계산 — 특징 변환
가정: W=[0.10.30.20.4]
(AX)W=⎣⎢⎢⎢⎡0.82.80.81.61.24.21.22.4⎦⎥⎥⎥⎤
3단계: σ((AX)W) — 비선형성 추가
σ=ReLU → 모든 값이 양수이므로 그대로 유지
H(1)=⎣⎢⎢⎢⎡0.82.80.81.61.24.21.22.4⎦⎥⎥⎥⎤
요약: GCN 전파 규칙 & 이커머스 적용
| 개념 | 설명 | 이커머스 적용 예 | 수식 |
|---|
| Local Connectivity | 이웃 노드 정보만 사용 | 상품의 유사 상품 정보 활용 | AH(i) |
| Shared Weights | 모든 노드 동일 가중치 | 다양한 상품에 동일한 규칙 적용 | ×W(i) |
| Message Passing | 이웃 정보 전달 → 임베딩 업데이트 | 사용자-상품 관계를 통한 추천 | σ(AH(i)W(i)) |
📌 결론
GCN의 전파 규칙 H(i+1)=σ(AH(i)W(i)) 는 이커머스에서 사용자와 상품 간의 복잡한 관계를 모델링하고, 이를 바탕으로 정확한 추천을 제공하는 핵심 수식입니다.
semi-supervised learning: 라벨이 있는 엣지들만 학습이 된다. -> 학습된 W는 실제 라벨이 없는 엣지들도 추천이 가능하게 된다.