파이썬 라이브러리를 활용한 머신러닝(번역개정판): 사이킷런 핵심 개발자가 쓴 머신러닝과 데이터 과학 실무서

2

장

지도 학습

83

완전히 제외되는 특성이 생긴다는 뜻입니다. 어떻게 보면 특성 선택

feature

selection

이 자동으로 이

뤄진다고 볼 수 있습니다. 일부 계수를

0

으로 만들면 모델을 이해하기 쉬워지고 이 모델의 가

장 중요한 특성이 무엇인지 드러내줍니다.

확장된 보스턴 주택가격 데이터셋에 라소를 적용해보겠습니다.

In [37]:

from sklearn.linear_model import Lasso

lasso = Lasso().t(X_train, y_train)

print("훈련 세트 점수: {:.2f}".format(lasso.score(X_train, y_train)))

print("테스트 세트 점수: {:.2f}".format(lasso.score(X_test, y_test)))

print("사용한 특성의 개수:", np.sum(lasso.coef_ != 0))

Out [37]:

훈련 세트 점수: 0.29

테스트 세트 점수: 0.21

사용한 특성의 수: 4

결과에서 볼 수 있듯이

Lasso

는 훈련 세트와 테스트 세트 모두에서 결과가 좋지 않습니다. 이

는 과소적합이며

104

개의 특성 중

4

개만 사용한 것을 볼 수 있습니다.

Ridge

와 마찬가지로

Lasso

도 계수를 얼마나 강하게

0

으로 보낼지를 조절하는

alpha

매개변수를 지원합니다. 앞에

서는 기본값인 ...