단순 회귀 분석을 검증하는 방법으로 T 검정과 F 검정이 있다

• T 검정: 회귀계수별 통계적 유의성을 검증하는 방법.
• F 검정: 모든 회귀계수를 한꺼번에 검증하여 회귀 모형의 통계적 유의성을 검정.

유의성이란?

통계적 유의성 은 모집단에 대한 가설이 확률적으로 우연이라고 생각하기 어렵고, 의미가 있다고 생각되는 정도.

절편이란?

[x]절편은 직선이
[x]축과 만나는 점이고,
[y]절편은 직선이
[y]축과 만나는 점입니다.

일반적으로 회귀식에서는 절편은 큰 의미가 없다. 따라서 단순 회귀에 관심 갖는 회귀계수는 베타원 하나이므로 T 검정과 F 검정의 결과가 동일하다.

T 검정

T 검정은 두 집단이 같은지 다른지를 판단하는 데 사용, 이러한 특성을 회귀 분석에 적용하여 기울기가 0인지 아닌지 파악 가능하다. 즉, 회귀계수는 T 검정의 평균 차이와 동일한 개념으로 볼 수 있다.
회귀계수 추정은 의미가 있는 베타원 기울기에 대해서만 진행한다.

• 귀무가설: 베타1=0(종속 변수와 독립 변수 관계가 없다.)
• 대립가설: 베타1<>0(독립 변수는 종속 변수에 유의미한 영향을 미친다.)

P 값이 0.05보다 작으면 귀무가설을 기각하고 대립가설을 채택하기 때문에, 1인당 GDP 변수가 행복에 영향을 주는 유의미한 변수라고 해석할 수 있다.

F 검정

F 검정은 두 모집단의 분산 차이가 있는지 검정하는 데 사용한다. F 검정은 두 표본 집단의 분산 비율이며, F 값이 클수록 두 집단의 분산 차이가 커짐을 뜻한다. 다음과 같이 가설을 설정 후 검정.

• 귀무가설: 두 모집단의 분산 차이가 없다.
• 대립가설: 두 모집단의 분산 차이가 있다.

F 검정 통계량은 MSR(회귀식으로 설명 가능한 변동력)/MSE(불가능한 변동력)로 계산.
변동력이란 변수 값이 평균과 다른 정도를 뜻함.
MSR이 크다면 F 값은 증가하므로 회귀식이 모형에 대한 설명을 잘한다고 이해할 수 있다.
F 검정은 개별 변수의 유의성을 보는 T 검정과 달리 회귀식 전체에 대해 통계적으로 얼마나 유의한지 나타내기 때문에 F 값은 모든 독립 변수와 종속 변수 간에 선형관계가 존재하는 정도를 의미한다.
모든 회귀계수의 F 값이 유의하지 않으면 모든 회귀 계수는 사실상 0으로 간주된다.

• 귀무가설: 베타원=0(회귀식이 유용하지 않다)
• 대립가설: 베타원<>0(회귀식이 유용하다)

F 검정 역시 T 검정과 마찬가지로 절편 베타 제로와 기울기 베타 원이라는 회귀계수가 있지만 마찬가지로 기우기에 대해서만 추정을 진행한다. 귀무가설은 베타 원이 0이면 종속 변수와 독립 변수가 관계가 없어 회귀식이 유용하지 않다는 것을 의미한다.

회귀계수 기울기 베타 원의 유의성을 검정할 때 회귀계수의 P 값을 사용한다. F 검정 통계량의 P 값을 사용하여 GDP 변수의 유의성을 확인 가능하다. 회귀 분석 결과에서 P 값이 0.05 미만일 때 회귀 모형의 통계적 유의성이 있다고 볼 수 있으며 P 값이 작을수록 독립 변수 X가 종속 변수 Y 값을 더욱 잘 설명한다고 볼 수 있다.
유의한 F 값이 0으로 귀무가설을 기각하고 대립가설을 채택하므로 예제의 회귀식이 유용하다고 해석할 수 있다.
P 값이 0.05보다 작아 '이 회귀식이 통계적 유의성을 갖는다.'는 것을 도출하였다.