SVM과 커널법

선형분류기

.선형 판별함수를 기반으로 분류를 수행하는 학습 시스템
.과다 적합을 피할 수 있음

SVM 분류기

SVM
.일반화 오차를 최소화할 수 있는 방향으로 학습이 이루어지도록 설계된 선형 분류기
.이를 위해 마진이란 개념을 도입

마진
.학습 데이터들 중에서 결정경계에 가장 가까운 데이터로부터 결정경계까지의 거리

서포트 벡터
.결정경계에 가장 가까운 곳에 위치한 데이터

슬랙변수
.잘못 분류된 데이터로부터 결정경계까지의 거리
.선형 분리가 불가능한 데이터 처리를 위해 도입

커널법

비선형 문제로의 확장
.고차원 문제로 선형화하면 간단한 선형 분류기를 사용한 분류가 가능
.계산량 증가와 같은 부작용 발생 -> 커널법으로 해결