
170
|
第
6
章
borrow_knn <- knn(borrow_df, test=borrow_df, cl=loan_data[, 'outcome'],
prob=TRUE, k=10)
prob <- attr(borrow_knn, "prob")
borrow_feature <- ifelse(borrow_knn=='default', prob, 1-prob)
summary(borrow_feature)
Min. 1st Qu. Median Mean 3rd Qu. Max.
0.0000 0.4000 0.5000 0.5012 0.6000 1.0000
命令的结果是一个特征,表示了基于历史数据对借款者拖欠可能性的预测。
本节要点
• KNN
通过指定与一条记录相似的记录所属的类,实现对该记录的分类。
•
可以使用欧氏距离或其他相关度量判定相似度(距离)。
•
与一条记录进行比较的最近邻数(即
K
值),取决于使用不同
K
值时,算法在训练
数据上的性能。
•
预测变量通常需要做标准化,以避免大尺度变量主导了距离度量。
• KNN
常常作为预测建模过程的第一个阶段。
KNN
的预测值会作为一个
预测变量
添
加回数据中,进而用于第二阶段(非
KNN
)的建模。
6.2
树模型
树模型也被称为
分类与回归树
(
CART
)
3
、
决策树
(或简称为
树
),它是一种有效的分类和
回归方法,最早由利奥
•
布莱曼等人在
1984
年提出,并得到了广泛的使用。在数据科学中
做回归和分类时,树模型及其更加强大的衍生方法 ...