#12 Weekly Paper _주성분분석 vs. 요인분석

차원 축소 기법인 주성분 분석과 요인 분석의 차이는 무엇인지 설명해 주세요

1. 주성분 분석(PCA)

PCA의 목표는:
데이터의 분산(정보)을 최대한 유지하면서 변수 수를 줄이는 것

ex:
국어, 영어, 수학의 세 과목 점수가 강한 상관관계를 가진다면,
PCA는 이를 하나의 새로운 변수인 "학업 성취도" 같은 축으로 압축할 수 있음

특징

• 분산이 가장 큰 방향을 찾음
• 새로운 변수(주성분)를 생성
• 모든 분산(공통분산 + 고유분산)을 사용
• 예측 성능 향상이나 데이터 압축에 자주 사용

2. 요인 분석(Factor Analysis)

요인 분석의 목표는:
여러 변수에 공통적으로 영향을 주는 숨겨진 요인(Factor)을 찾는 것

ex:

문항
수학 성적
과학 성적
논리력 테스트

이들이 모두 높은 상관관계를 가진다면 '논리적 사고력'이라는 잠재 요인이 존재한다고 볼 수 있음

특징

• 변수 간 상관관계를 설명하는 잠재요인 추출
• 공통분산(Common Variance)만 사용
• 심리학, 사회과학, 설문조사에서 많이 사용

3. PCA vs. 요인분석 가장 중요한 차이

PCA
관심 대상:

데이터를 얼마나 잘 압축할 수 있는가?

요인분석
관심 대상:

변수들 뒤에 숨어있는 공통 원인은 무엇인가?

수학적 관점
PCA는,
'전체 분산 = 공통분산 + 고유분산'을 모두 활용

요인분석은,
공통분산만 사용
-> 변수들 간 공통적으로 설명되는 부분만 추출

🎯 비교표

구분	PCA	요인분석
목적	차원 축소	잠재요인 발견
관심	분산 최대 보존	상관관계 설명
생성 결과	주성분(PC)	요인(factor)
사용 분산	전체 분산	공통분산
해석	상대적으로 어려움	해석 중심
활용 분야	머신러닝, 데이터 분석	심리학, 설문조사

주성분 분석과 요인 분석은 모두 차원 축소 기법이지만 목적이 다르다.
PCA는 데이터의 분산을 최대한 유지하면서 변수를 압축하는 것이 목적이며, 전체 분산을 사용하여 새로운 주성분을 생성한다.
반면 요인 분석은 여러 변수에 공통적으로 영향을 미치는 잠재요인을 찾는 것이 목적이며, 변수들의 공통분산을 기반으로 요인을 추출한다.
따라서 PCA는 데이터 압축과 전처리에, 요인 분석은 설문조사나 심리학 분야에서 잠재 개념을 발견하는 데 주로 활용된다.

😎