Linear Regression exercise (선형회귀 실전문제)

#####################################################
df['Sex'] = df['Sex'].replace('male', 0)
df['Sex'] = df['Sex'].replace('female', 1)

model = smf.logit('Survived ~ Age + Pclass + Sex', data = df).fit()
print(model.summary())
#####################################################

Optimization terminated successfully.
         Current function value: 0.453285
         Iterations 6
                           Logit Regression Results                           
==============================================================================
Dep. Variable:               Survived   No. Observations:                  714
Model:                          Logit   Df Residuals:                      710
Method:                           MLE   Df Model:                            3
Date:                Fri, 16 Jun 2023   Pseudo R-squ.:                  0.3289
Time:                        07:55:04   Log-Likelihood:                -323.65
converged:                       True   LL-Null:                       -482.26
Covariance Type:            nonrobust   LLR p-value:                 1.860e-68
==============================================================================
                 coef    std err          z      P>|z|      [0.025      0.975]
------------------------------------------------------------------------------
Intercept      2.5339      0.456      5.554      0.000       1.640       3.428
Age           -0.0369      0.008     -4.841      0.000      -0.052      -0.022
Pclass        -1.2885      0.139     -9.253      0.000      -1.561      -1.016
Sex            2.5221      0.207     12.168      0.000       2.116       2.928
==============================================================================

정답

a. $y = \frac{1}{1+e^{-2.5339 + 0.0369x_{1} + 1.2885x_{2} - 2.5221x_{3}}}$

b. $\beta_{1}$: 승객 나이가 1세 증가하면, 생존할 확률의 로짓값이 0.0369 만큼 감소한다.

$\beta_{2}$: 객실 등급이 1단계 낮아지면, 생존할 확률의 로짓값이 1.2885 만큼 감소한다.

$\beta_{3}$: 여성은 남성에 비해, 생존할 확률의 로짓값이 2.5221 만큼 증가한다.

문제3. Count Regression (총 30점 / 각 15점)

주어진 데이터를 바탕으로 푸아송 회귀분석하시오.
주어진 데이터는 아이들이 놀이터에서 놀때 하루동안 잃어버리는 물건의 수를 독립변수들과 함께 정리해 놓은 것이다. 이때 독립변수의 값은 알려져있지만, 각 변수의 명은 미지수로만 알려져있다.

a. 모델에 대한 가설검정을 유의수준 0.05에서 실시후 무의미하다고 판단되는 회귀계수를 찾으시오.
b. 독립변수가 1단위 증가할 때, 종속변수 (하루동안 잃어버리는 물건 수) 가 감소하도록 하는 독립변수를 찾으시오.

**주의사항**
* 데이터가 두개가 있는데, 이를 합쳐서 활용해야함.
* 이때 독립변수는 f0~f15 를 모두 사용할 것.
* 종속변수는 loss (하루동안 잃어버리는 물건 수)

#########이 셀은 실행만 하고 건들지 마시오############
df1 = pd.read_csv('https://raw.githubusercontent.com/ericoh929/Machine-Learning/main/f_data1.csv') #데이터 1
df2 = pd.read_csv('https://raw.githubusercontent.com/ericoh929/Machine-Learning/main/f_data2.csv') #데이터 2
######################################################

df = pd.concat([df1, df2], axis = 0)

X = df.drop(['Unnamed: 0', 'loss'], axis = 1)
y = df['loss']
X

col_list = str()
for col in X.columns:
    if col == 'f15':
        col_list += col
        break

    else:
        col_list += col
        col_list += ' + '
col_list

'f0 + f1 + f2 + f3 + f4 + f5 + f6 + f7 + f8 + f9 + f10 + f11 + f12 + f13 + f14 + f15'

model = smf.poisson('loss ~ {}'.format(col_list), data = df).fit()
model.summary()