https://www.bradyneal.com/causal-inference-course
Introduction to Causal Inference라는 강의를 듣고 정리했습니다.
12. Transfer Learning and Transportability
12-1. Causal Insights for Transfer Learning
- Transfer learning : 더 학습
- domain generalization : 더 학습하지 않고 test만, Transfer learning의 일종
Covariante shift
Unstructured Vector로 부터 Y prediction
- Causal Structure 사용
- In-distribution Prediction of Y–Markov Blanket
- in-distribution prediction of Y from out-of-sample data for X
- Y-Markov Blanket
- prediction of Y from X sampled from Ptest(x,y)
Modularity
- modularity : intervention한 variable의 causal mechanism만 바뀐다. 다른 causal mechanism은 안 바뀐다.
- conditionals가 invariant 해야 transfer가 가능
- structural equation과 conditional equation으로 표현 가능
- causal conditionals
- x2, x13, x12 intervention해도 causal mechanism은 변하지 않는다.
- noncausal conditionals
- conditionals은 variant하다
- intervention에 따라 달라진다.
- modularity는 Y의 causal parent variable만 사용해야함.
- transfer을 하기 위해 conditionals가 invariant 해야함.
Causal Mechanism is Optimal in Robust Sense
- robust loss를 최소화 하는 causal mechanism
- common support가 필요 : supptrain(pa(Y))=supptest(pa(Y))
- extrapolate 잘 하기 : supptrain(pa(Y)) → supptest(pa(Y))
Relaxation of covariate shift
- covariate shift assumption는 조건이 너무 strict해서 modularity assumption을 사용함
12-2. Transportability of Causal Effects Across Populations
Transportability Problem
Selection Diagrams
- 두 distribution에 different causal mechanism을 허용한다.
- S → X의 causal mechanism
- X에 대하여 Π와 Π∗가 다를 수 있다.
- S의 부재는 invariance를 encode함
Direct Transportability (External Validity)
Trivial Transportability
- trivial과 direct trasportability 사용하여 identify → s-admissibility
- 가 없으면 backdoor adjustment, 가 있으면 transportability adjustment