파이썬 라이브러리를 활용한 머신러닝(번역개정판): 사이킷런 핵심 개발자가 쓴 머신러닝과 데이터 과학 실무서

134

파이썬 라이브러리를 활용한 머신러닝(번역개정판)

2.3.8

커널 서포트 벡터 머신

다음으로 다룰 지도 학습 모델은 커널 서포트 벡터 머신

kernelized

support

vector

machines

입니다.

86

페

이지 “분류용 선형 모델”에서 선형 서포트 벡터 머신을 사용해 분류 문제를 풀어보았습니다. 커

널 서포트 벡터 머신(보통 그냥

SVM

으로 부릅니다 )은 입력 데이터에서 단순한 초평면

hyperplane

으로 정의되지 않는 더 복잡한 모델을 만들 수 있도록 확장한 것입니다. 서포트 벡터 머신을 분

류와 회귀에 모두 사용할 수 있지만 여기서는

SVC

를 사용하는 분류 문제만을 다루겠습니다.

SVR

를 사용하는 회귀 문제에도 같은 개념을 적용할 수 있습니다.

커널 서포트 벡터 머신의 수학적 정의는 조금 복잡해서 이 책의 범위를 넘어섭니다. 하지만 헤

이스티, 팁시라니, 프리드먼의 『

The

Elements

of

Statistical

Learning

』(

http

://

statweb

.

stanford

.

edu

/~

tibs

/

ElemStatLearn

/)

12

장에서 자세한 내용을 볼 수 있습니다. 여기서는

이 알고리즘의 이면에 있는 아이디어 정도만 조금 살펴보겠습니다.

선형 모델과 비선형 특성

[그림

2

-

15

]에서 보았듯이 직선과 초평면은 유연하지 못하여 저차원 데이터셋에서는 ...