
324
|
第
7
章
在我们的自行车租赁问题中,也许可以利用这个模型来衡量对商业的影响。例如,
我们可以根据动态定价解决方案中使用的模型来计算增加的可用自行车数量或增加
的利润。
设计模式
29
:可解释预测
可解释预测设计模式通过让用户了解模型如何以及为什么会产生某些预测,增加了
用户对机器学习系统的信任。虽然决策树之类的模型可以通过设计进行解释,但深
度神经网络的架构使其从本质上难以解释。对所有模型而言,为了理解影响模型行
为的特征组合,能够解释预测是很有用的。
问题
当评估一个机器学习模型以确定它是否准备好用于生产时,像准确率、精度、召回
率和均方误差这样的指标只阐述了部分事实。它们提供了有关模型预测相对于测试
集中的真值(
ground truth value
)的正确程度,但是它们没有对模型得出这些预测的
原因进行深入的了解。在许多机器学习场景中,用户可能会犹豫是否接受模型表面
上的预测值。
为了理解这一点,让我们来看一个模型(
https://oreil.ly/5W-2n
),它根据视网膜图像
预测糖尿病视网膜病变
(DR)
的严重程度
注
1
。该模型返回
softmax
输出,表示单个图
像属于表示图像中
DR
严重程度的
5
个类别中的
1
个的概率——范围为
1(
没有
DR)
至
5(
增殖型
DR
,最糟糕的情况
)
。让我们想象一下,对于一个给定的图像,模型对
于图像包含增殖型
DR
返回
95%
的置信度。这看起来是一个高可信度的准确结果,
但如果一个医学专业人士仅凭这个模型输出来提供患者诊断,他们仍然无法了解这
个模型是如何得出这个预测的。也许模型在图像中识别出了指标 ...