一般化加法モデル（GAM）との関係

From Shapley Values to Generalized Additive Models and back

背景：説明可能な機械学習（XAI）の領域では、SHAP などの事後的な特徴量寄与説明と、GAM のような本質的に解釈可能なモデルが、別々の研究系譜として扱われることが多い。本論文は、Shapley Values と GAM の間にある数学的対応を明らかにすることで、この二分法を見直す。

目的：Shapley Values がどのような関数構造を説明しているのかを、GAM 型の関数分解として特徴づけること、また逆に GAM の構成要素が Shapley 型説明によってどのように復元されるのかを示すことが目的である。

方法：著者らは、通常の Shapley Values と Shapley Interaction Values を一般化した n-Shapley Values を定義する。さらに、値関数が「subset-compliant」であるとき、それが説明対象関数の一意な GAM 型分解、すなわち Shapley-GAM を誘導することを示す。加えて、関数分解から subset-compliant な値関数へ戻る対応も示し、値関数と関数分解の双方向対応を確立する。

結果：d-Shapley Values は Shapley-GAM と一致し、通常の Shapley Values は高次相互作用を各特徴量に均等に配分した低次説明として理解できる。GAM が次数 n 以下の相互作用しか含まない場合、n-Shapley Values、Shapley Taylor 指数、Faith-Shap 指数はいずれもその GAM の成分関数を復元する。特に、通常の SHAP 特徴量寄与は、変数間相互作用をもたない GAM を復元する。

結論：Shapley Values は局所近傍に基づく関数近似や勾配型説明ではなく、点の座標と値関数に基づく関数分解の一形態として理解できる。本論文は、Shapley Values を任意の関数に常に適切な説明法だと主張するものではなく、事後説明法と解釈可能モデルとの構造的な関係を明確にすることを目的としている。