핸즈온 머신러닝: 사이킷런과 텐서플로를 활용한 머신러닝, 딥러닝 실무

212

1

부

머신러닝

5.3

SVM

회귀

앞서 이야기한 것처럼

SVM

알고리즘은 다목적으로 사용할 수 있습니다. 선형, 비선형 분류뿐

만 아니라 선형, 비선형 회귀에도 사용할 수 있습니다. 회귀에 적용하는 방법은 목표를 반대

로 하는 것입니다. 일정한 마진 오류 안에서 두 클래스 간의 도로 폭이 가능한 한 최대가 되도

록 하는 대신,

SVM

회귀는 제한된 마진 오류 (즉, 도로 밖의 샘플 ) 안에서 도로 안에 가능한 한

많은 샘플이 들어가도록 학습합니다. 도로의 폭은 하이퍼파라미터

ε

으로 조절합니다.

16

[그림

5

-

10

]은 무작위로 생성한 선형 데이터셋에 훈련시킨 두 개의 선형

SVM

회귀 모델을 보여줍니

다. 하나는 마진을 크게(

ε

=

1

.

5

) 하고 다른 하나는 마진을 작게(

ε

=

0

.

5

) 하여 만들었습니다.

그림

5-10

SVM

회귀

마진 안에서는 훈련 샘플이 추가되어도 모델의 예측에는 영향이 없습니다. 그래서 이 모델을

ε

에 민감하지 않다

ε

-

insensitive

고 말합니다.

사이킷런의

LinearSVR

을 사용해 선형

SVM

회귀를 적용해보겠습니다. 다음 코드는 [그림

5

-

10

]의 왼쪽 그래프에 해당하는 모델을 만듭니다(먼저 훈련 데이터의 스케일을 맞추고 평균

을

0

으로 맞춰야 합니다 ).

16

옮긴이_ 허용오차를 설명할 때 나온 하이퍼파라미터

ε

과 혼동하지 마세요 ...