math for ML 10.5 ~ 10.8

형빈·2024년 5월 21일
0
post-custom-banner

10.5 PCA in high dimension

  • PCA를 하기 위해 covariance matrix 필요
  • D차원에서 covariance matrix는 DxD matrix
    ex) 100x100 픽셀의 이미지라면, 10,000x10,000 크기의 matrix의 고윳값을 분해해야함.
    그러나, df가 NxD(N<<<D)형태라면, NxN 형태의 공분산으로 계산해도 된다.

10.6 PCA 실행 step

  1. 평균값 빼기
  2. 공분산 행렬 계산
  3. 공분산행렬의 고윳값 벡터와 고윳값 구하기
  4. 고윳값이 큰 고유벡터 선정
  5. 해당 공간으로 투영

10.7 잠재변수 관점

10.8 선형성이 아니고, 정규분포를 따르지 않을때

post-custom-banner

0개의 댓글