(ADsP) 16. 기초통계

후웅후웅·2024년 2월 17일

ADsP

목록 보기

16/23

1) t-검정

(1) 일 표본 t-검정(one sample t-test)
1. 일 표본 t-검정의 개념

일(단일) 표본 t-검정은 가설검정의 일종으로, 하나의 모집단의 평균(n)값을 특정값과 비교하는 경우 사용하는 통계적 분석 방법이다.

일 표본 단측 t-검정

모수에 대한 검정을 할 때 모수값이 '~보다 크다' 혹은 '~보다 작다'와 같이 한쪽으로의 방향성을 갖는 경우 수행되는 검정 방법이다.
예컨대 'ㅇㅇ공장에서 생산되는 지우개의 평균 중량은 50g 이하다(지우개 평균 중량 <= 50g)'라는 귀무가설을 수립했다고 가정해보자. 다음과 같이 R에서 t-검정을 수행했다.
그 결과를 보면 검정통계량은 t=2.6963이며, 자유도는 표본의 개수보다 1만큼 적은 df=9다.
p-value가 유의수준 0.05보다 작으므로 귀무가설을 기각할 수 있다.
따라서 'ㅇㅇ공장에서 생산되는 지우개의 평균 중량은 50g 이하다'라는 귀무가설은 기각되고 대립가설인 'ㅇㅇ공장에서 생산되는 지우개의 평균 중량은 50g보다 크다'라는 대립가설을 채택한다.

일 표본 양측 t-검정

단측 검정처럼 방향성을 갖지 않고 모수값이 '~이다' 혹은 '~이 아니다'와 같이 방향성이 없는 경우 수행되는 검정 방법이다.
예컨대 '대한민국 남성의 평균 몸무게는 70kg이다'라는 귀무가설을 수립했다고 가정해보자. 다음과 같이 R에서 t-검정을 수행했다.
그 결과를 보면 검정통계량은 t=1.2687이며, 자유도는 표본의 개수보다 1만큼 적은 df=99다.
p-value가 유의수준 0.05보다 작지 않으므로 귀무가설을 기각할 수 없다.
따라서 '대한민국 남성의 평균 몸무게는 70kg이다'라는 귀무가설은 기각되지 않고 채택된다.

(2) ⭐이(독립) 표본 t-검정(independent sample t-test)⭐
1. 이 표본 t-검정의 개념

이 표본 t-검정은 가설검정의 일종으로 서로 독립적인 두 개의 집단에 대하여 모수(모평균)의 값이 같은 값을 갖는지 통계적으로 검정하는 방법이다.
책에 따라서 독립표본 t-검정이라고 부르기도 한다.
여기서 독립이란 두 모집단에서 각각 추출된 두 표본이 서로 관계가 없다는 것을 의미한다.
두 모집단의 분산이 같음을 의미하는 등분산성을 만족해야 한다. 따라서 이 표본 t-검정을 수행하기 전에 등분산 검정(F 검정)을 먼저 수행해야 한다.

이 표본 단측 t-검정

두 집단에 대하여 모수 비교를 할 때 '~이 ~보다 크다' 혹은 '~이 ~보다 작다'와 같이 두집단 사이에 대소가 있는 경우 수행되는 검정 방법이다.
예컨대 'A회사의 급여가 B회사의 급여보다 같거나 많다(A회사 급여 >= B회사 급여)'라는 귀무가설을 수립했다고 가정해보자. 다음과 같이 R에서 t-검정을 수행했다.
그 결과를 보면 검정통계량은 t=2.26226이며, 자유도는 df=172.16이다.
p-value가 0.9952이며, 유의수준 0.05보다 크므로 귀무가설을 기각할 수 없다.
따라서 A회사의 급여가 B회사의 급여보다 같거나 많다고 할 수 있다.

이 표본 양측 t-검정

두 집단에 대하여 모수 비교를 할 때 '두 집단이 같다' 혹은 '두 집단이 다르다'와 같이 두 집단 사이에 대소가 없는 경우 수행되는 검정 방법이다.
예컨대 "K와 L의 달리기 속도는 같다"라는 귀무가설을 수립했다고 가정해보자. 다음과 같이 R에서 t-검정을 수행했다.
그 결과를 보면 검정통계량은 t=3.2704이며, 자유도는 df=17.141이다.
p-value가 0.0044이며, 유의수준 0.05보다 작으므로 귀무가설을 기각할 수 있다.
따라서 대립가설을 채택하여 A씨와 B씨의 달리기 속도는 같다고 할 수 없다.

⭐대응 표본 t-점정(paired t-test)⭐
대응 표본 t-검정의 개념

동일한 대상에 대해 두 가지 관측치가 있는 경우 이를 비교하여 차이가 있는지 검정할 때 사용한다.
주로 실험 전후의 효과를 비교하기 위해 사용된다.
예: 두 집단에 신약 투약 이후의 전후 수치 비교, 새로운 정책이 시행된 후의 부동산 가격의 전후 변화 등

대응 표본 t-검정

예를 들어 새로운 운동법이 체중감량의 효과가 있는지 검증하기 위해 새로운 운동법을 실시한 집단과 실시하지 않은 집단의 체중을 비교한다고 했을 때 대응 표본 t-검정을 수행한다.
'새로운 운동법으로 체중 감량의 효과는 없다(운동 전 무게 - 운동 후 무게 <= 0)'라는 귀무가설을 수립하고 R에서 t-검정을 수행했다.
그 결과를 보면 검정통계량은 t=4.132이며, 자유도는 대응 개수 10보다 1만큼 적은 9다.
p-value가 0.002552이며, 유의수준 0.05보다 작으므로 귀무가설을 기각할 수 있다.
따라서 대립가설을 채택하여 '두 집단의 평균의 차이는 0보다 크다.' 따라서 새로운 운동법으로 인한 체중 감량의 효과는 있다.

2) 분산 분석(ANOVA)

(1) 분산분석
1. ⭐분산분석 개요⭐

분산분석은 세 개 이상의 모집단이 있을 경우에 여러 집단 사이의 평균을 비교하는 검정 방법이다.
분산분석의 귀무가설은 항상'H0: 모든 집단 간 평균은 같다.'이다.
분산분석을 수행하기 위해서는 아래의 세가지 가정사항을 필요로 한다.
✔ 정규성 : 각 집단의 표본들은 정규분포를 따라야 한다.
✔ 등분산성 : 각 집단은 동일한 분산을 가져야 한다.
✔ 독립성 : 각 집단은 서로에게 영향을 주지 않는다.
분산분석의 한 가지 단점이 있다며 귀무가설을 기각할 경우 어느 집단 간 평균이 같은지, 혹은 어느 집단 간의 평균이 얼마나 다른지 알 수 없다는 점이다.
그래서 분산분석의 귀무가설을 기각했을 경우 어느 집단 간에 차이를 보이는지 알기 위한 사후검정 방법으로 Scheffe, Tukey, Duncan, Fisher's LSD, Dunnett, Bonferroni등의 방법을 사용한다.
분산분석의 독립변수는 범주형 데이터여야 하고, 종속변수는 연속형이어야 한다.
분산분석에는 '(집단 간 분산)/(집단 내 분산)'으로 계산되는 F-value가 사용된다.
평균을 비교하는 분산분석에 '분산'의 개념을 사용하는 이유는 집단 간 평균의 분산이 클수록 각 집단의 평균은 서로 멀리 떨어져 있기 때문이다. 그래서 집단 간 차이를 비교하기 쉬워진다.

⭐일원분산분석(one-way Anova)⭐

셋 이상의 집단 간 평균을 비교하는 상황에서 하나의 집단에 속하는 독립변수와 종속변수 모두 한 개일 때 사용한다.
예컨대 연령대별(청소년, 성인, 노인) 유튜브 시청 시간의 차이가 있는지 알아보고 싶다고 가정해보자. 여기서 독립변수는 연령별 집단(청소년, 성인, 노인)이다. 종속변수는 유튜브 시청 시간이다. 셋이상의 집단이지만 독립변수는'연령별 집단'하나의 종류로 봐야 한다. 하나의 독립변수가 각각 종속변수에 영향을 끼치기 때문이다.

일원분산분석 R 실습

신형 핸드폰 A, B, C의 속도 차이가 있는지 여부
귀무가설(H0): A, B, C라는 세 대의 신형 핸드폰 간의 속도 차이는 없다.
대립가설(H1): 집단 간 평균의 차이가 존재한다.
p-value값이 0.447로 0.05보다 작지 않으므로 귀무가설을 기각할 수 없다.
따라서 세 대의 신형 핸드폰 간의 속도 차이는 없다고 할 수 있다.

⭐이원분산분석(two-way Anova)⭐

일원분산분석 수행 시 독립변수의 수가 두 개 이상일 때 사용한다.
위의 일원분산분석 사례에서 만약 독립변수가 두 개 이상이 되는 상황을 가정한다면 어떨까? 성별 연령별 유튜브 시청 시간차이를 알아보고 싶은 경우가 그것이다.
이원분산분석은 독립변수 간 교호작용이 있다고 판단될 때는 '반복이 있는 실험'을 하고, 교호작용이 없다고 판단될 때, 즉 두 독립변수가 독립인 경우에는 '반복이 없는 실험'을 한다.
이원분산분석은 이렇게 독립변수 간의 교호작용을 먼저 살펴보고 두 가지로 나누어서 실험해야 한다. 교호작용이란 독립변수끼리 서로 영향을 미치는 경우를 말한다. 위의 예를 보자면, '여성'이라는 독립변수의 경우 '노인' 변수와는 교호작용이 미약할 수도 있겠지만, '여성'이라는 독립변수가 '청소년'과 만나면 서로 강한 교호작용이 있을 수 있다. 그래서 이원분산분석을 수행할 때 독립변수 간 교호작용을 먼저 살펴보고 두 가지로 나누어서 수행하는 것이다.
만약 집단 간의 평균 차이를 검증할 때 종속변수가 2개 이상이라면 '다변량분산분석(Manova)'을 수행한다. 이를'다원분산분석'이라 부르기도 한다.

3) 교차분석

교차분석
(1) 교차분석의 개념

범주형 자료(명목, 서열) 간의 관계를 알아보고자 할 때 사용되는 분석방법이다.
카이제곱(x^2)검정통계량을 이용한다.
적합도 검정, 독립성 검정, 동질성 검정에 사용된다.

(2) 교차분석표

두 범주형 변수를 교차하여 데이터의 빈도를 표 형태로 나타낸 것이다.
예를 들어 지역별 전자제품 브랜드 선호도를 교차분석표로 작성한다고 가정해보자.
다음의 표를 보면 우리나라와 미국에서는 B사 브랜드 선호도가 높은 반면, 유럽에서는 A사 브랜드의 선호도가 높다고 할 수 있다.

⭐적합도 검정⭐
(1) 적합도 검정의 개념

실험결과 얻어진 관측값이 예상값과 일치하는지 여부를 검정하는 방법이다.
여기서 실험 데이터를 '관측도수', 예측값을 '기대도수'라고 부른다.
정리하자면 모집단 분포에 대한 가정(예측값, 기대도수)이 옳게 됐는지 관측값(관측도수)과 비교하여 검정하는 것이다.
실험 결과 관측도수가 기대도수와 일치하면 실제 분포와 예측 분포 간에는 차이가 없다고 볼 수 있다.

(2) 적합도 검정에서의 가설

H0: 실제 분포와 예측 분포 간에는 차이가 없다. = 두 분포가 일치한다.
H1: 실제 분포와 예측 분포 간에 차이가 있다. = 두 분포가 일치하지 않는다.

(3) 적합도 검정

적합도 검정을 하는 유의수준은 보통 α=0.05로 정한다.
적합도 검정의 기각값은 카이제곱 분포표에9서 유의수준 α=0.05일 때 자유도 df=범주 수 - 1에 해당하는 Χa,df 값이다.

⭐독립성 검정⭐

독립성 검정은 모집단이 두 개의 변수에 의해 범주화됐을 때 그 두 변수들 사이의 관계가 독립적인지 아닌지 검정하는 것을 의미한다.
변수들 사이의 관계가 독립적이라면 변수들 사이에 유의한 관계가 없다고 판단하여, 만약 독립적이지 않다면 유의한 관계가 있다고 판단한다.
카이제곱 검정에 의한 독립성 검정 결과는 두 범주형 변수 간에 관계가 있는지 없는지만을 나타낼 뿐이며, 두 변수 간 관계의 강도를 말해주지 않는다.
따라서 두 범주형 변수가 유의한 관계가 있다고 판단한다고 해서 두 범주형 변수 간에 상관관계가 강하다고 보지는 않는다. 상관관계의 강도를 말하기 위해서는 상관분석을 실시해 수치를 따져봐야 한다.

⭐동질성 검정⭐

동질성 검정은 관측값들이 정해진 범주 내에서 서로 비슷하게 나타나고 있는지를 검정하는 것이다.
두 집단의 분포가 동일한 모집단에 추출된 것인지를 검정한다. 즉, 부모집단별로 요인에 대한 차이가 있는지 검정하는 것이 동질성 검정이다.
예컨대 속성 A, B를 가진 부모집단 각각으로부터 정해진 표본의 크기만큼 자료를 추출하는 경우 그 표본의 관측값(표본의 속성 A, B)의 분포가 부모집단의 속성(모집단의 속성 A, B)분포와 동일한가를 검정하는 것이다.
동질성 검정통계량을 계산할 때는 교차표를 활용하며, 계산 및 검증법은 독립성 검정과 같다.

4) 상관분석

⭐상관분석의 개념⭐
(1) 상관분석의 개념

상관분석은 두 변수 간의 선형적 관계가 존재하는지 알아보는 분석 방법으로, 상관계수를 활용한다.
상관계수는 -1과 +1 사이의 값을 갖는데, +1에 가까우면 강한 양의 상관관계가, -1에 가까우면 강한 음의 상관관계가 있다고 본다. 0에 가까울수록 상관관계가 존재하지 않는다고 본다.
변수 간에 상관관계가 있따는 것이 반드시 그 변수들 사이에 인과관계가 있다는 말은 아니다. 상관관계는 존재하지만 인과관계는 없을 수도 있다. 인과관계는 다음 절에서 공부할 회귀분석에서 다루기로 한다.

(2) 산점도 해렬

R에서 산점도 행렬(Scatter Plot Matrix)을 그려 여러 변수를 조합한 산점도와 상관계수를 한 화면에서 확인할 수 있다. 다음은 차량과 관련된 mtcars 데이터셋(R 기본 데이터 중 하나)을 사용해 다변량 산점도를 그린 모습이다. cyl변수는 실린더 개수를 의미하는 이산형 변수로, 일정하게 점이 찍혀있는 모습을 확인할 수 있다. 또한 배기량 disp와 cyl이 강한 양의 상관관계를 보이는 것을 확인할 수 있다.