파이썬 라이브러리를 활용한 머신러닝(번역개정판): 사이킷런 핵심 개발자가 쓴 머신러닝과 데이터 과학 실무서

2

장

지도 학습

63

니다. 그럼 먼저 앞 장에서 본

k

-최근접 이웃 (

k

-

NN

) 알고리즘을 다시 살펴보겠습니다.

2.3.2

k

-최근접 이웃

k

-

NN

k

-

Nearest

Neighbors

알고리즘은 가장 간단한 머신러닝 알고리즘입니다. 훈련 데이터셋을 그

냥 저장하는 것이 모델을 만드는 과정의 전부입니다. 새로운 데이터 포인트에 대해 예측할 땐

알고리즘이 훈련 데이터셋에서 가장 가까운 데이터 포인트, 즉 ‘최근접 이웃’을 찾습니다.

k

-최근접 이웃 분류

가장 간단한

k

-

NN

알고리즘은 가장 가까운 훈련 데이터 포인트 하나를 최근접 이웃으로 찾아

예측에 사용합니다. 단순히 이 훈련 데이터 포인트의 출력이 예측됩니다. [그림

2

-

4

]는

forge

데이터셋을 이렇게 분류한 것입니다.

In [11]:

mglearn.plots.plot_knn_classication(n_neighbors=1)

그림

2-4

forge

데이터셋에 대한 1-최근접 이웃 모델의 예측

4

첫 번째 특성으로 13개의 교차항이 만들어지고, 두 번째 특성에서 첫 번째 특성을 제외한 12개의 교차항이 만들어집니다. 그다음 세 번째 특

성에서 11개가 되는 식입니다(13 + 12 + 11 + … + 1 = 91).

옮긴이_ 중복을 고려하지 않은 이항 계수의 공식은

n

k

n

knk















!

!

(-)

!