説明可能性#
恵木 (2020)の分類に則ると、4つに分けられる
因子型：「この特徴量の値がこれだからこの予測結果」
事例型：「似たような事例はこうだったから」
知識型：「AIはここの要素が弱いと考えた」
反実型：「もしこの特徴量の値がこれだったらこの予測結果となった」
因子型#
LIME、SHAPなど
事例型#
予測対象と類似した訓練事例を出すアプローチ
k近傍のサンプルを出す方法#
Influence function#
Hara et al. (2019)はconvexでない損失関数にも使えるよう拡張
Guo et al. (2020)（Salesforce）のFastIFはk近傍に絞って計算することで訓練を高速化
TracIn#
SGDにおいて各インスタンスが誤差をどれだけ増減させるかを見てインスタンスの影響度を測るアプローチ
反実型#
[2010.10596] Counterfactual Explanations and Algorithmic Recourses for Machine Learning: A Review