AI를 위한 필수 수학

150

AI

를 위한 필수 수학

값에 대한 탐색이 이루어지는 탐욕적 알고리즘이 사용되기 때문에 계산 비용이 매우 큰 것에

비해 정확도가 떨어진다. 이어서 설명할 랜덤 포레스트가 이러한 단점 중 일부를 해결한다.

3.7.3

랜덤 포레스트

의사 결정 트리를 처음 공부하면 다음과 같은 것들 때문에 많이 당황스럽다 (일부 질문의 경우

앞서 답을 제공했다 ).

●

트리를 어떻게 시작하는가? 즉, 어떤 데이터 피처가 루트 피처인지 어떻게 결정할까?

●

어떤 피처 값에서 노드를 분할할지 결정할까?

●

언제 멈출까?

●

본질적으로 트리는 어떻게 키울까?

필자는 처음 의사 결정 트리를 공부할 때 답을 찾기 위해 인터넷 검색을 하던 중 의사 결정 트

리가 만들기 쉽고 이해하기도 쉽다는 말들을 보면서 더욱 혼란스러워졌다. 의사 결정 트리를

혼란스럽고 어렵게 느끼는 사람은 필자뿐인 것 같았다.

하지만 랜덤 포레스트에 관해 알게 된 순간 혼란이 순식간에 사라졌다. 랜덤 포레스트의 놀라

운 점은 혼란스러운 질문에 대한 답을 찾지 않아도 매우 좋은 회귀 또는 분류 결과를 얻을 수

있다는 점이다. ‘무작위로 선택하라’ 이 두 단어로 의사 결정 트리를 구축하면서 생겼던 모든

질문에 답할 수 있게 되었다. 그러고 나서 앙상블 방법을 사용하면 신중하게 만든 하나의 의사

결정 트리보다 더 좋은 결과를 얻을 수 있다. 랜덤화는 종종 신뢰성을 향상시킨다는 교훈을 얻

을 수 있다.

랜덤 포레스트의 또 다른 매우 유용한 특징은 피처 중요도

feature

importance

를 측정해준다는 ...