User-friendly introduction to PAC-Bayes bounds를 바탕으로 작성되었습니다. Introduction Statistical learning에서 PAC-Bayes는 일반화 능력을 이해하기 위한 접근법이다. classification
Problem VC dimension, Rademacher compleity, Uniform stability 등 기존의 statistical learning theory 사용되는 Generalization Error에 대한 논의는 DNNs의 경우 다르게 바라봐야 한다
Marginal probability $P(A)$ : 다른 변수들을 무시하고 해당 부분 집합$X (A\\in X)$ 내의 event $A$가 발생할 확률Joint probability $P(A,B)$ : event $A,B$가 동시에 발생할 확률Conditional p
paper https://www.youtube.com/watch?v=-SX3vbZfRhg Objective Layer들간의 Mutual Information을 통해 DNNs를 정량화한다. Problem Deep learning이 뛰어난 성과를 냄에도 이론적인 이해는
paperDNNs의 training data 양에 따른 Generalization error를 예측하는 것이 목적이다.기존의 statistical learning theory 분야의 VC dimension이 classification model에 대해 Generaliz
binary graph classificationCora dataset을 통해 graph classification task를 진행하려고 했지만, 해당 데이터는 multi-class 를 갖기 때문에 구현하고 평가하는데 문제가 생겨 Binary-class를 갖는 MUTA
Weisfeiler-Lehman Graph Kernelshttps://www.jmlr.org/papers/volume12/shervashidze11a/shervashidze11a.pdf에 대한 리뷰입니다.Weisfeiler-Lehman test를 기반으로 빠르
A SHORT TUTORIAL ON THE WEISFEILER-LEHMAN TEST AND ITS VARIANTS 를 바탕으로 작성되었습니다.Weisfeiler-Lehman Algorithm (WL test)는 그래프의 동형을 판단하는 Colour refinement
MATHEMATICS FOR MACHINE LEARNING (Deisenroth, M. P., Faisal, A. A., & Ong, C. S. (2020)) 을 바탕으로 작성되었습니다.
Inductive Representation Learning on Large Graphs https://arxiv.org/pdf/1706.02216.pdf
SEMI-SUPERVISED CLASSIFICATION WITH GRAPH CONVOLUTIONAL NETWORKS https://arxiv.org/pdf/1609.02907v4.pdf FAST APPROXIMATE CONVOLUTIONS ON GRAPHS 특정한
TOPOLOGICAL GRAPH NEURAL NETWORKS https://arxiv.org/pdf/2102.07835.pdfTopological Graph Layer (TOGL)은 Topological data analysis(TDA) 기반의 layer이다,
AdapterFusion:Non-Destructive Task Composition for Transfer Learninghttps://arxiv.org/pdf/2005.00247.pdf
http://web.stanford.edu/class/cs224w/GNN은 기본적으로 graph network를 embedding하는 함수 f를 학습하는 방법에 대한 것이다. network에서 유사한 node들끼리 embedding space( latent s
KGAT: Knowledge Graph Attention Network for Recommendationhttps://arxiv.org/pdf/1905.07854.pdf 이 논문이 제시하는 모델은 효과적인 추천을 위해 high-order relations을