Regularization (정규화)

란? : overfitting을 줄이기 위해서 cost function내의 패널티term을 추가하는 것.

• Ridge regression
  : L2 regularization term 사용 (제곱)
  람다 (양 조절) 가 커지면 가중치들이 0에 가까워진다. (0이되진 않는다)

• Lasso regression
  : L1 regularization term 사용 (절댓값)
  특징) feature selection
  그룹내에서 one variable만 선택하고 나머지 무시.
  람다가 커지면 0이 될수 있다.

• Elastic Net regression
  : L1, L2 둘다 사용
  연관있는 것들끼리 그룹화-> 그룹선택가능 (lasso와의 차이점)