차원 축소
- 다수의 데이터로 인해 의미 있는 무언가를 뽑아내기 어려운 경우 데이터의 차원을 축소하는 방식
- 데이터의 차원을 축소하는 이유는 데이터셋에 많은 변수가 포함되는 경우 분석의 복잡성이 증가하고, 이로부터 의미있는 정보를 찾기에 어려움이 생기기 때문이다. 이런 경우 데이터셋에 포함된 여러 변수를 소수의 해석 가능한 변수로 축소할 필요가 있다.
- 주성분분석(Principal Component Analysis), 요인분석(Factor Analysis), 다차원 척도법(Multidimensional Scaling)
주성분 분석
- 서로 상관관계를 갖는 많은 변수를 상관관계가 없는 소수의 변수로 변환하는 차원축소 기법
- 이때 변환에 사용하는 소수의 변수를 주성분 또는 성분이라고 함
- 기존 변수에 대한 가중치는 주성분 간 상관관계가 없으면서 각 주성분이 설명하는 분산이 최대가 되도록 결정함.
- (이론적으로 n개의 변수가 있을 때 n개의 주성분을 생성하면, 본래의 총분산과 같은 값이 나오게 됨.) 하지만, 이 경우 주성분 북석을 통해 변수를 축소하는 것의 의미가 없으므로, 주성분 분석에서는 추출된 주성분 중 일정 Criteria(기준점)을 만족시킬 정도로 설정함.
- 연속형 변수에 대해서만 진행 가능.범주형 변수는 (dummy화)를 통해 가능
요인 분석
- 관측 가능한 여러 변수로부터 소수의 Factor를 추출하여 이러한 Factor를 토대로 변수 간의 관련성을 설명하려는 데이터 분석 기법
- 서로 상관관계를 맺고 있어서 직접적으로 해석하기 어려운, 여러 관찰(측정)변수들 간의 구조적 연관관계를 상대적으로 독립적이면서, 변수들의 개념상 의미를 부여할 수 있는 공통인자(Common Factor)를 상정하여, 이들을 통해 분석하고자 하는 통계적 방법
- 실질적으로 요인 북석의 목적은 측정 가능한 변수들로부터 해석 가능한 소수의 요인을 찾기 위함.
차이
- 주성분 분석(PCA)은 데이터의 모든 분산을 중요하다고 여기고, 공통 분산과 고유 분산을 구별하지 않는다.
- 주성분 분석(PCA)은 변수 간의 상관관계를 설명하는 대신, 데이터의 전체적인 분산을 최대한 포착하려는 데 중점을 둔다.
- 요인 분석(FA)은 공통인자(Common Factor) 모델을 기반으로 하며, 데이터의 기저에 있는 구조를 파악하고자 하는 데 중점을 두며, 변수들 간의 관계를 설명하기 위해 잠재적인 요인들을 식별하려고 한다.
탐색적 요인분석
- 아직 명확한 가설이 없을 때, 새로운 변수들 간의 관계를 탐색하고 가설을 도출하는 데 활용
확인적 요인분석
- 이미 기존 이론이나 가설을 기반으로 한 요인 구조가 실제 데이터에 적합한지 검증하는데 사용
PCA는 오차항을 고려하지 않고, 변수들의 분산을 최대한 설명하는 주성분을 찾는다.
EFA는 이론적 구조가 불분명할 때 사용되며, 변수들을 요인으로 축약하는 과정이다.
CFA는 이미 존재하는 이론이나 가설을 데이터와 비교하여 검증하는 과정이다.
개발자