可解释机器学习
目录
前言
简述一些可解释机器学习方法与工具。
可解释工具
SHAP (SHapley Additive exPlanations)
-
SHAP是一种利用博弈论解释任何机器学习模型输出的方法。它利用博弈论中的经典沙普利值及其相关扩展，将最优信用分配与局部解释联系起来。
Lime
-
Lime能够解释任何包含两个或多个类别的黑盒分类器。我们只要求分类器实现一个函数，该函数接收原始文本或NumPy数组作为输入，并输出每个类别的概率。它内置了对scikit-learn分类器的支持。
PDP (Partial dependence plots)
- 部分依赖图 (PDP) 展示了目标响应与一组感兴趣的输入特征之间的依赖关系，同时忽略了所有其他输入特征的值。直观地说，我们可以将部分依赖关系解释为预期目标响应与感兴趣的输入特征之间的函数关系。