README

• overview
• backend
• common
• encoder
• explainability_quality
• explainer
• plot
• postprocess
• predictor
• report

Shapash是一个用于机器学习可解释性的包，具有以下特点：

1. 可以生成一个在浏览器中运行的交互界面
2. 可以选择使用Shap、Lime和acv为后端运行，并进行对比
3. 具体包含的功能有：特征重要性、局部可解释性、两个特征之间的交互、导出报告等

中文文档翻译了tutorials的部分。

• 中文文档：https://weak.notion.site/README-8cc8e0bb36b44c7ca3251c3a27d83605
• Github：https://github.com/MAIF/shapash
• 英文文档：https://shapash.readthedocs.io/en/latest/

更多信息欢迎访问网站：https://www.sharkfin.top/

1 WebApp

用户可以通过命令在浏览器中打开一个交互页面进行查看，很方便。

2 三种可解释性后端并进行对比

不同的可解释性后端的结果很可能不同，通过三者“距离”的对比，可看出三者的差异性。如下图所示，shap与acv的“距离”是0.39，而shap与lime的距离是0.52。这说明shap结果与acv更相似，与lime更不同。

3 具体的功能

3.1 特征重要性

特征对预测的结果重要性的排序。

3.2 全局可解释性

某个特征对整体预测的正负向影响。

3.3 局部可解释性

针对某一个样本，不同特征的正负贡献情况。

3.4 2个变量的交互图

下图可以这样解释：

• 对女性乘客来说:
  • 属于头等或二等舱时，生存的机会最高
  • 属于三等舱时，存活的机会较少
• 相反，对于男性乘客来说 :
  • 属于三等舱时，存活的机会最高
  • 属于头等或二等舱时，生存的机会较少

3.5 多样本对比

比较多个指定样本之间不同特征的贡献。