• 일반적으로 예측변수들을 표준화한다. 이를 통해 스케일이 큰 변수들의 영향력이 너무 커지지 않도록 한다.
• 예측 모델링의 첫 단계에서 종종
KNN
을 사용한다. 이렇게 얻은 값을 다시 데이터에 하나의 예측변수로 추
가해서 두 번째 단계의 (
KNN
이 아닌) 모델링을 위해 사용한다.
6.2
트리 모델
트리 모델은
회귀 및 분석 트리
classification
and
regression
tree
(
CART
)
5
,
의사 결정 트리
decision
tree
, 혹은 단
순히 그냥
트리
tree
라고도 불리며
1984
년 레오 브레이먼과 그의 동료들이 처음 개발한 효과적이
고 대중적인 분류(및 회귀) 방법이다. 트리 모델들과 여기서 파생된 강력한
랜덤 포레스트
random
forest
와
부스팅
(
6
.
3
절과
6
.
4
절 참고) 같은 방법들은 회귀나 분류 문제를 위해 데이터 과학에서
가장 널리 사용되는 강력한 예측 모델링 기법들의 기초라고 할 수 있다.
용어 정리
•
재귀 분할
recursive
partitioning
: 마지막 분할 영역에 해당하는 출력이 최대한 비슷한
homogeneous
결과를 보
이도록 데이터를 반복적으로 분할하는 것
•
분할값
split
value
: 분할값을 기준으로 예측변수를 그 값보다 작은 영역과 큰 영역으로 나눈다.
•
마디(노드 ...
Become an O’Reilly member and get unlimited access to this title plus top books and audiobooks from O’Reilly and nearly 200 top publishers, thousands of courses curated by job role, 150+ live events each month, and much more.