
318
|
第
7
章
监管和合规机构
需要从法规遵从性的角度了解模型是如何做决策的人员和组织。这可能包括组织
内的财务审计人员、政府机构或治理团队。
在本章中,我们将探讨处理模型对构建模型的团队和组织之外的个体和群体的影响
的模式。启发式基准(
Heuristic Benchmark
)设计模式提供了一种将模型性能置于终
端用户和决策者能够理解的环境中的方法。可解释预测(
Explainable Prediction
)模
式通过理解模型用于进行预测的信号,提供了一些方法来提高机器学习系统的可信
度。公平性透镜(
Fairness Lens
)设计模式旨在确保模型在不同用户子集和预测场景
之间的行为是公平的。
综上所述,本章中的模式属于负责任的人工智能(
Responsible AI
)的实践(
https://
oreil.ly/MlJkM
)。这是一个活跃的研究领域,关注的是在人工智能系统中构建公平性、
可解释性、隐私和安全性的最佳方式。负责任的工人智能的推荐实践包括:在整个
项目的开发过程中通过与不同的用户和用例场景的结合来使用以人为本的设计方法,
了解数据集和模型的局限性,并在部署后继续监控和更新机器学习系统。负责任的
工人智能模式并不局限于我们在本章中讨论的这三种——前面章节中的很多模式(如
持续评估、可重复拆分和中立类)提供了方法来实现这些推荐的实践并在
AI
系统中
达到构建公平性、可解释性、隐私和安全性的目标。
设计模式
28
:启发式基准
启发式基准模式将机器学习模型与简单、容易理解的启发式逻辑进行比较,从而向
业务决策者解释模型的性能。 ...