파이썬 라이브러리를 활용한 머신러닝(번역개정판): 사이킷런 핵심 개발자가 쓴 머신러닝과 데이터 과학 실무서

2

장

지도 학습

57

과대적합과 과소적합의 절충점이 [그림

2

-

1

]에 나타나 있습니다.

정확도

훈련 세트

최적점

일반화

과대적합과소적합

모델 복잡도

그림

2-1

모델 복잡도에 따른 훈련과 테스트 정확도의 변화

2.2.1

모델 복잡도와 데이터셋 크기의 관계

모델의 복잡도는 훈련 데이터셋에 담긴 입력 데이터의 다양성과 관련이 깊습니다. 데이터셋에

다양한 데이터 포인트가 많을수록 과대적합 없이 더 복잡한 모델을 만들 수 있습니다. 보통 데

이터 포인트를 더 많이 모으는 것이 다양성을 키워주므로 큰 데이터셋은 더 복잡한 모델을 만

들 수 있게 해줍니다. 그러나 같은 데이터 포인트를 중복하거나 매우 비슷한 데이터를 모으는

것은 도움이 되지 않습니다.

요트 판매 예로 돌아가보면, 고객 데이터를

10

,

000

개 모아봤더니 전부 “

45

세 이상이고 자녀가

셋 미만이며 이혼하지 않는 고객은 요트를 사려고 한다”라는 규칙을 만족한다면 [표

2

-

1

]의

12

개만 사용할 때보다 훨씬 좋은 규칙이라고 할 수 있습니다.

데이터를 더 많이 수집하고 적절하게 더 복잡한 모델을 만들면 지도 학습 문제에서 종종 놀라

운 결과를 얻을 수 있습니다. 이 책에서는 고정 크기의 데이터셋을 사용하는 데 집중하겠습니

다. 모델을 변경하거나 조정하는 것보다 이득일 수 있으므로 실제 환경에서는 데이터를 얼마나

많이 모을지 ...