파이썬 라이브러리를 활용한 머신러닝(번역개정판): 사이킷런 핵심 개발자가 쓴 머신러닝과 데이터 과학 실무서

2

장

지도 학습

55

2.2

일반화, 과대적합, 과소적합

지도 학습에서는 훈련 데이터로 학습한 모델이 훈련 데이터와 특성이 같다면 처음 보는 새로운

데이터가 주어져도 정확히 예측할 거라 기대합니다. 모델이 처음 보는 데이터에 대해 정확하게

예측할 수 있으면 이를 훈련 세트에서 테스트 세트로

일반화

generalization

되었다고 합니다. 그래서

모델을 만들 때는 가능한 한 정확하게 일반화되도록 해야 합니다.

보통 훈련 세트에 대해 정확히 예측하도록 모델을 구축합니다. 훈련 세트와 테스트 세트가 매

우 비슷하다면 그 모델이 테스트 세트에서도 정확히 예측하리라 기대할 수 있습니다. 그러나

항상 그런 것만은 아닙니다. 예를 들어 아주 복잡한 모델을 만든다면 훈련 세트에만 정확한 모

델이 되어버릴 수 있습니다.

가상의 예를 만들어 설명해보겠습니다. 초보 데이터 과학자가 요트를 구매한 고객과 구매 의사

가 없는 고객의 데이터를 이용해 누가 요트를 살지 예측하려 합니다.

2

그래서 관심없는 고객들

을 성가시게 하지 않고 실제 구매할 것 같은 고객에게만 홍보 메일을 보내는 것이 목표입니다.

고객 데이터는 [표

2

-

1

]과 같습니다.

표

2-1

고객 샘플 데이터

나이 보유차량수 주택보유 자녀수 혼인상태 애완견 보트구매

66 1 yes 2

사별

no yes

52 2 yes 3

기혼

no yes ...