파이썬 라이브러리를 활용한 머신러닝(번역개정판): 사이킷런 핵심 개발자가 쓴 머신러닝과 데이터 과학 실무서

88

파이썬 라이브러리를 활용한 머신러닝(번역개정판)

그림

2-15

forge

데이터셋에 기본 매개변수를 사용해 만든 선형

SVM

과 로지스틱 회귀 모델의 결정 경계

이 그림은 이전처럼

forge

데이터셋의 첫 번째 특성을

x

축에 놓고 두 번째 특성을

y

축에 놓

았습니다.

LinearSVC

와

LogisticRegression

으로 만든 결정 경계가 직선으로 표현되었고 위

쪽은 클래스

1

, 아래쪽은 클래스

0

으로 나누고 있습니다. 다르게 말하면 새로운 데이터가 이

직선 위쪽에 놓이면 클래스

1

로 분류될 것이고 반대로 직선 아래쪽에 놓이면 클래스

0

으로 분

류될 것입니다.

이 두 모델은 비슷한 결정 경계를 만들었습니다. 그리고 똑같이 포인트 두 개를 잘못 분류했습

니다. 회귀에서 본

Ridge

와 마찬가지로 이 두 모델은 기본적으로

L2

규제를 사용합니다.

LogisticRegression

과

LinearSVC

에서 규제의 강도를 결정하는 매개변수는

C

입니

다.

24

C

의 값이 높아지면 규제가 감소합니다. 다시 말해 매개변수로 높은

C

값을 지정하면

LogisticRegression

과

LinearSVC

는 훈련 세트에 가능한 최대로 맞추려 하고, 반면에

C

값을

낮추면 모델은 계수 벡터(

w

)가

0

에 가까워지도록 만듭니다.

매개변수

C

의 작동 방식을 다르게 설명할 수도