Marginalization이 무엇인가요?

이 게시글은 장형기님의 SLAM 기술 면접 질문 100선에 대한 제 나름대로의 답을 정리한 것입니다.

제가 아는 marginalization은 확률에서 많이 나오는 개념입니다.
$p(x) = \int p(x,y)dy$
이렇듯 두 변수를 가진 확률 분포를 하나의 변수에 대해 전체 범위에서 적분을 하면 그것은 하나의 변수를 가지는 확률분포가 되는 것입니다.

Marginalization의 목적

• 확률 계산 단순화
  다변향 확률 분포에서 특정 변수에 대한 정보를 알고 싶을 때, 관련 없는 변수들을 제거합니다.

• 숨겨진 변수 처리
  관찰되지 않는 변수를 제거하여 모델을 간소화합니다.

• 계산 효율성 향상
  문제의 차원을 줄이고 계산 비용을 줄입니다.

Marginalization의 장단점

• 장점

  • 문제 단순화: 관심 없는 변수 제거로 계산량 감소

  • 효율성 향상: 고차원 문제를 저차원으로 변환

  • 모델 간소화: 숨겨진 변수나 오래된 데이터를 제거하여 복잡도를 줄임

• 단점

  • 정보 손실 가능성: 제거된 변수에 중요한 정보가 포함되어 있을 수 있습니다.

  • 계산 비용 증가: 어떤 경우에는 marginalization 자체의 계산 비용 자체가 클 수도 있어 주의해야 합니다.

  • 수학적 복잡성: Marginalization은 고차원 문제에서 구현이 어렵거나 복잡할 수 있습니다.

  ---