금융 전략을 위한 머신러닝: 19가지 사례를 통해 익히는 금융 전략, 머신러닝, 데이터 과학

90

2

부

지도 학습

예제:

분류

from sklearn.ensemble import ExtraTreesClassifier

model = ExtraTreesClassifier()

model.fit(X, Y)

예제:

회귀

from sklearn.ensemble import ExtraTreesRegressor

model = ExtraTreesRegressor()

model.fit(X, Y)

어답티브 부스팅(에이다부스팅)

어답티브 부스팅 혹은 에이다부스팅은 순차적 예측으로 후속 모델이 앞선 모델의 오류를 최소

화하는 방식으로 진행한다는 기본 아이디어로 만들어진 부스팅 기술이다. 에이다부스트 알고

리즘은 매번 각 예의 가중치를 변경함으로써 분포를 바꾼다. 잘못 예측한 예의 가중치를 높이

고, 옳게 예측한 예의 가중치를 낮춘다.

에이다부스팅 알고리즘은 다음 단계를 따른다.

1

처음에는 모든 관찰에 대한 가중치를 동일하게 한다.

2

일부 데이터로 모델을 생성하고, 전체 데이터셋에 대해 예측한다. 예측값과 실젯값을 비교해 오차를 계산한다.

3

다음 모델에서는 잘못 예측한 데이터의 가중치를 높인다. 가중치는 오찻값의 크기에 따라 결정하는데, 예를 들

어 오차가 클수록 그 관찰에 대한 가중치를 높인다.

4

비용 함수가 더 이상 변하지 않을 때까지 혹은 예측 횟수가 최대치에 도달할 ...